Open tm4roon opened 3 years ago
Model-Agnostic Meta-Learning (MAML)は、二次勾配の計算が含まれることからメモリ効率が悪く計算コストが高いことが知られている。本論文では、MAMLの一次近似手法First-Order MAML (FOMAML)を拡張したReptileという手法を提案し、高速かつ頑健に動作することを示していた。手法は以下の通りで非常にシンプルである。
On First-Order Meta-Learning Algorithms
Model-Agnostic Meta-Learning (MAML)は、二次勾配の計算が含まれることからメモリ効率が悪く計算コストが高いことが知られている。本論文では、MAMLの一次近似手法First-Order MAML (FOMAML)を拡張したReptileという手法を提案し、高速かつ頑健に動作することを示していた。手法は以下の通りで非常にシンプルである。
文献情報
参考文献