日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

言語モデルarXiv:2606.29164

言語モデルの潜在軌跡における不変推論方向

Invariant Reasoning Directions in Latent Trajectories of Language Models

シェア:XThreadsFacebookLINEはてブBluesky

強力な推論軌跡と弱い推論軌跡の差が低ランク構造を持つことを発見し、その不変方向を操作する介入手法TILRを提案した。パラフレーズや摂動に対する一貫性を向上させる。

詳しい要約

1. どんなもの?

- 言語モデルの潜在推論モデルにおける潜在推論軌跡の構造を分析し、安定した不変方向と不安定な変動が混在することを示した。 - 訓練不要の介入フレームワークTrajectory-Invariant Latent Refinement (TILR)を提案し、潜在空間内の安定した推論方向を同定・操作する。 - 6つの推論ベンチマークで評価し、少数の潜在方向が強弱推論軌跡間の変動の大部分を説明することを発見。 - これらの方向への介入が推論の一貫性を因果的に改善し、言い換えや摂動下での軌跡不安定性を低減することを示した。

2. 先行研究と比べてどこがすごい?

- 従来の潜在推論モデルは、潜在更新が言い換え、チェックポイント選択、軌跡摂動に敏感であることが知られていた。 - 本研究は、対照的な精緻化信号が高度に集中した低ランク構造を示すことを明らかにし、安定した不変方向と不安定な変動が混在するという新たな視点を提供する。 - 訓練不要の介入フレームワークTILRを導入し、潜在空間内の安定した推論方向を同定・操作する点が先行研究と異なる。 - 従来は潜在推論軌跡の構造理解が不十分であったが、本研究はその幾何学的理解を深め、実用的な介入手法を提案した。

3. 技術・手法の肝は?

- TILRは、入力間の対照的な軌跡差から低ランクの不変部分空間を学習する。 - 適応的アラインメントゲートを通じて、整列が不十分な更新を抑制しつつ、潜在介入をこの部分空間に制約する。 - 訓練不要であり、既存の潜在推論モデルに適用可能。 - 介入は、強弱推論軌跡間の変動を説明する少数の潜在方向に焦点を当てる。

4. どうやって有効だと検証した?

- 6つの推論ベンチマークで評価を実施。 - 少数の潜在方向が強弱推論軌跡間の変動の大部分を説明することを発見。 - これらの方向への介入が推論の一貫性を因果的に改善し、言い換えや摂動下での軌跡不安定性を低減することを示した。 - TILRは、言い換え下での回答一貫性を約10%改善し、潜在軌跡の分散を最大50%低減しつつ、推論精度を維持した。

5. 議論はある?

- 結果は、潜在推論において転移可能な推論行動が隠れ状態軌跡内の安定した低次元構造から生じるという幾何学的視点を支持する。 - 潜在推論軌跡には安定した不変方向と不安定なインスタンス固有の変動が混在していることが示唆される。 - 介入が推論精度を損なわずに一貫性と安定性を向上させることを示したが、他のモデルやタスクへの一般化可能性については要旨からは不明。 - 潜在空間の構造理解と操作の可能性を開くが、長期的な影響や限界については議論されていない。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として、潜在推論モデル(latent reasoning models)や対照的学習(contrastive learning)が挙げられる。 - 同分野の定番として、Chain-of-Thought (CoT) 推論や潜在変数モデル(latent variable models)が考えられる。 - 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Arun Vignesh Malarkkan, Manan Roy Choudhury, Utkarsh Byahut, Yash Ravindra Charde, Vivek Gupta, Yanjie Fu

分類: cs.LG, cs.AI, cs.CG

原文アブストラクト

Latent reasoning models perform multi-step inference directly in hidden-state space, yet the structure of these latent reasoning trajectories remains poorly understood. We show that contrastive refinement signals between stronger and weaker reasoning trajectories exhibit a highly concentrated low-rank structure, while unconstrained latent updates remain sensitive to paraphrases, checkpoint choice, and trajectory perturbations. These observations suggest that latent reasoning trajectories contain stable invariant directions mixed with unstable instance-specific variation. We introduce \textbf{Trajectory-Invariant Latent Refinement (TILR)}, a training-free intervention framework for identifying and manipulating stable reasoning directions in latent space. TILR first learns a low-rank invariant subspace from contrastive trajectory differences across inputs, then constrains latent interventions to this subspace while suppressing poorly aligned updates through an adaptive alignment gate. Across six reasoning benchmarks, we find that a small number of latent directions explain most variation between strong and weak reasoning trajectories. Interventions on these directions causally improve reasoning consistency and reduce trajectory instability under paraphrases and perturbations. TILR improves answer consistency under paraphrase by ~10% and reduces latent trajectory variance by up to $50\%$ while preserving reasoning accuracy. These results support a geometric view of latent reasoning in which transferable reasoning behavior emerges from stable low-dimensional structure within hidden-state trajectories.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI