yusukekyokawa / paper_list

2 stars 0 forks source link

On the variance of the adaptive learning rate and beyond #21

Open yusukekyokawa opened 3 years ago

yusukekyokawa commented 3 years ago

書誌情報

論文リンク

著者/所属機関

conf/journal

year

どんな論文か?

RAdamの提案論文。 Adamなどの確率ベースの最適化手法におけるバリアンス問題を特定し修正する手法(i.e. RAdam)を提案

新規性

手法

結果

コメント

yusukekyokawa commented 3 years ago

Screenshot_20200810-033529.png