about optimizer

[Vickeyhw]

请问de-counfound适用于其它optimizer吗？当我把代码里的optimizer换成adam后，结果很差，改变优化器，还有其它哪些配置需要做出相应的改变？

[KaihuaTang]

请问de-counfound适用于其它optimizer吗？当我把代码里的optimizer换成adam后，结果很差，改变优化器，还有其它哪些配置需要做出相应的改变？

我没试过其他Optimizer，但是adam也是有类似momentum的moving average项的，理论上也work。你可能需要试试换下各种超参

[Kittywyk]

请问de-counfound适用于其它optimizer吗？当我把代码里的optimizer换成adam后，结果很差，改变优化器，还有其它哪些配置需要做出相应的改变？

你好，请问你用adam以后work了吗？我也是用了AdamW，效果也很差。