tm4roon / survey

Survey on machine learning.
14 stars 1 forks source link

Meta-Learning for Domain Generalization in Semantic Parsing #126

Open tm4roon opened 3 years ago

tm4roon commented 3 years ago

Meta-Learning for Domain Generalization in Semantic Parsing

擬似的なzero-shot learningにより、ドメイン汎化したSemantic Parserを構築する方法を提案した論文。

提案手法: Domain Generalization with Model-Agnostic Meta-Learning (DG-MAML)の具体的な手法は以下の通り。

  1. 複数のドメインを含むデータ集合から、訓練用ドメインのデータDsとテスト用ドメインのデータDtをサンプリング
  2. 訓練用ドメインデータDsからサンプリングしたミニバッチβsでメタ学習(meta-train)
  3. 訓練ドメインとテストドメインの両方を含む以下の損失関数を計算 (meta-test)
  4. パラメータを更新

のような手順で学習を行う。本手法のポイントは、訓練とテストのドメインが異なるため、擬似的なzero-shot learningを行っている点である。これにより、汎用的なSemantic Parserの学習を目指している。

文献情報