Open Lllllolita opened 2 years ago
请问,Adadelta优化器是自适应更新学习率的,请问您为什么还要对学习率进行余弦调整呢?非常抱歉打扰了,中秋佳节快乐!
你好,可以看一下论文中提到余弦学习率时所引用的李沐的文章,里面有一些说明和比较。
请问,Adadelta优化器是自适应更新学习率的,请问您为什么还要对学习率进行余弦调整呢?非常抱歉打扰了,中秋佳节快乐!