Overcoming catastrophic forgetting in neural networks, James Kirkpatrick+, N/A, arXiv'16

[AkihikoWatanabe]

URL

• https://arxiv.org/abs/1612.00796

  Affiliations

  • James Kirkpatrick, N/A
  • Razvan Pascanu, N/A
  • Neil Rabinowitz, N/A
  • Joel Veness, N/A
  • Guillaume Desjardins, N/A
  • Andrei A. Rusu, N/A
  • Kieran Milan, N/A
  • John Quan, N/A
  • Tiago Ramalho, N/A
  • Agnieszka Grabska-Barwinska, N/A
  • Demis Hassabis, N/A
  • Claudia Clopath, N/A
  • Dharshan Kumaran, N/A
  • Raia Hadsell, N/A

    Abstract

  • The ability to learn tasks in a sequential fashion is crucial to the development of artificial intelligence. Neural networks are not, in general, capable of this and it has been widely thought that catastrophic forgetting is an inevitable feature of connectionist models. We show that it is possible to overcome this limitation and train networks that can maintain expertise on tasks which they have not experienced for a long time. Our approach remembers old tasks by selectively slowing down learning on the weights important for those tasks. We demonstrate our approach is scalable and effective by solving a set of classification tasks based on the MNIST hand written digit dataset and by learning several Atari 2600 games sequentially.

    Translation (by gpt-4o-mini)

• タスクを逐次的に学習する能力は、人工知能の発展において重要です。一般的に、ニューラルネットワークはこの能力を持たず、破滅的な忘却は接続主義モデルの避けられない特徴であると広く考えられています。私たちは、この制限を克服し、長い間経験していないタスクに対しても専門知識を維持できるネットワークを訓練することが可能であることを示します。私たちのアプローチは、これらのタスクに重要な重みの学習を選択的に遅くすることで、古いタスクを記憶します。私たちは、MNIST手書き数字データセットに基づく一連の分類タスクを解決し、いくつかのAtari 2600ゲームを逐次的に学習することで、私たちのアプローチがスケーラブルで効果的であることを実証しました。

  Summary (by gpt-4o-mini)

• タスクを逐次的に学習する能力を持つネットワークを訓練する方法を提案。重要な重みの学習を選択的に遅くすることで、古いタスクの記憶を維持。MNISTやAtari 2600ゲームでの実験により、アプローチの効果とスケーラビリティを実証。

[AkihikoWatanabe]

Catastrophic Forgettingを防ぐEWCを提案した論文