What In-Context Learning "Learns" In-Context: Disentangling Task Recognition and Task Learning, Jane Pan+, N/A, arXiv'23

[AkihikoWatanabe]

URL

• https://arxiv.org/abs/2305.09731

  Affiliations

  • Jane Pan, N/A
  • Tianyu Gao, N/A
  • Howard Chen, N/A
  • Danqi Chen, N/A

    Abstract

  • Large language models (LLMs) exploit in-context learning (ICL) to solve taskswith only a few demonstrations, but its mechanisms are not yet well-understood.Some works suggest that LLMs only recall already learned concepts frompre-training, while others hint that ICL performs implicit learning overdemonstrations. We characterize two ways through which ICL leveragesdemonstrations. Task recognition (TR) captures the extent to which LLMs canrecognize a task through demonstrations -- even without ground-truth labels --and apply their pre-trained priors, whereas task learning (TL) is the abilityto capture new input-label mappings unseen in pre-training. Using a wide rangeof classification datasets and three LLM families (GPT-3, LLaMA and OPT), wedesign controlled experiments to disentangle the roles of TR and TL in ICL. Weshow that (1) models can achieve non-trivial performance with only TR, and TRdoes not further improve with larger models or more demonstrations; (2) LLMsacquire TL as the model scales, and TL's performance consistently improves withmore demonstrations in context. Our findings unravel two different forcesbehind ICL and we advocate for discriminating them in future ICL research dueto their distinct nature.

    Translation (by gpt-3.5-turbo)

• 大規模言語モデル（LLMs）は、わずかなデモンストレーションでタスクを解決するために、コンテキスト学習（ICL）を利用していますが、そのメカニズムはまだ十分に理解されていません。一部の研究では、LLMsが事前学習から既に学習した概念を思い出すだけであると示唆していますが、ICLがデモンストレーションを通じて暗黙的に学習を行う可能性があると示唆する研究もあります。本研究では、ICLがデモンストレーションをどのように活用するかを特徴づけます。タスク認識（TR）は、グラウンドトゥルースのラベルがなくてもLLMsがデモンストレーションを通じてタスクを認識し、事前学習された優先順位を適用できる程度を捉えます。一方、タスク学習（TL）は、事前学習で見たことのない新しい入力-ラベルのマッピングを捉える能力です。分類データセットと3つのLLMファミリー（GPT-3、LLaMA、OPT）を使用して、TRとTLの役割を分離するための制御された実験を設計しました。その結果、(1)モデルはTRだけで非自明なパフォーマンスを達成でき、モデルが大きくなったり、より多くのデモンストレーションがあってもTRは改善されないことがわかりました。(2)LLMsはモデルがスケールするにつれてTLを獲得し、TLのパフォーマンスはコンテキスト内のより多くのデモンストレーションとともに一貫して改善されます。これらの結果は、ICLの背後にある2つの異なる力を明らかにし、将来のICL研究でそれらを区別することを提唱しています。

  Summary (by gpt-3.5-turbo)

• 本研究では、大規模言語モデル（LLMs）がどのようにコンテキスト学習（ICL）を利用してタスクを解決するかを調査しました。タスク認識（TR）とタスク学習（TL）の役割を分離するための実験を行い、LLMsがデモンストレーションを通じて暗黙的に学習を行う可能性があることを示しました。また、モデルがスケールするにつれてTLのパフォーマンスが改善されることも明らかになりました。これらの結果は、ICLの背後にある2つの異なる力を明らかにし、将来のICL研究でそれらを区別することを提唱しています。

[AkihikoWatanabe]

LLMがIn context Learningで新しい何かを学習しているのかを調査 TaskRecognition（TR）はGround Truth無しでデモンストレーションのみで実施 TaskLearning（TL）は訓練データになかったテキストとラベルのマッピングを捉える必要があるタスク。 TRはモデルサイズでスケールしなかったが、TLはモデルサイズに対してスケールした → 事前学習で学習してきた知識を引っ張ってくるだけではTLは実施できないので、TRでは何も学習していないが、TLにおいては新しく何かが学習されてるんじゃない?ということだろうか