URL

https://arxiv.org/abs/2410.16540
Authors
- Yingqian Cui
- Pengfei He
- Xianfeng Tang
- Qi He
- Chen Luo
- Jiliang Tang
- Yue Xing
  Abstract
- Few-shot Chain-of-Thought (CoT) prompting has demonstrated strong performance in improving the reasoning capabilities of large language models (LLMs). While theoretical investigations have been conducted to understand CoT, the underlying transformer used in these studies isolates the CoT reasoning process into separated in-context learning steps (Stepwise ICL). In this work, we theoretically show that, compared to Stepwise ICL, the transformer gains better error correction ability and more accurate predictions if the reasoning from earlier steps (Coherent CoT) is integrated. Given that this coherent reasoning changes the behavior of the transformer, we further investigate the sensitivity of the transformer with Coherent CoT when the demonstration examples are corrupted at the inference stage. Our theoretical results indicate that the transformer is more sensitive to errors in intermediate reasoning steps than the final outcome. Building upon this observation, we propose an improvement on CoT by incorporating both correct and incorrect reasoning paths in the demonstration. Our experiments validate the effectiveness of the proposed approach.
  Translation (by gpt-4o-mini)
Few-shot Chain-of-Thought (CoT) プロンプティングは、大規模言語モデル（LLMs）の推論能力を向上させる上で強力なパフォーマンスを示しています。CoTを理解するための理論的な調査が行われている一方で、これらの研究で使用される基盤となるトランスフォーマーは、CoTの推論プロセスを分離された文脈内学習ステップ（Stepwise ICL）に隔離しています。本研究では、Stepwise ICLと比較して、推論の初期ステップからの推論（Coherent CoT）を統合することで、トランスフォーマーがより良いエラー修正能力とより正確な予測を得られることを理論的に示します。この一貫した推論がトランスフォーマーの挙動を変えるため、推論段階でデモンストレーション例が破損した際のCoherent CoTを用いたトランスフォーマーの感度についてさらに調査します。我々の理論的結果は、トランスフォーマーが最終結果よりも中間推論ステップのエラーに対してより敏感であることを示しています。この観察に基づいて、我々はデモンストレーションにおいて正しい推論経路と誤った推論経路の両方を組み込むことでCoTを改善する提案を行います。我々の実験は、提案手法の有効性を検証します。
Summary (by gpt-4o-mini)
Few-shot Chain-of-Thought (CoT) プロンプティングはLLMsの推論能力を向上させるが、従来の研究は推論プロセスを分離された文脈内学習に依存している。本研究では、初期ステップからの一貫した推論（Coherent CoT）を統合することで、トランスフォーマーのエラー修正能力と予測精度を向上させることを理論的に示す。実験により、正しい推論経路と誤った推論経路を組み込むことでCoTを改善する提案の有効性を検証する。

AkihikoWatanabe / paper_notes

A Theoretical Understanding of Chain-of-Thought: Coherent Reasoning and Error-Aware Demonstration, Yingqian Cui+, arXiv'24 #1509

URL

Authors

Abstract

Translation (by gpt-4o-mini)

Summary (by gpt-4o-mini)