日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

言語モデルarXiv:2605.04899

言語モデルの出力分布サンプリングによる誤差と内部状態の幾何学的関係

A geometric relation of the error introduced by sampling a language model's output distribution to its internal state

シェア:XThreadsFacebookLINEはてブBluesky

GPT型言語モデルが多様なトークンに確率が分散する生成点で単一トークンの変化に敏感であることを幾何学的性質として捉え、トークン埋め込みの幾何のみに依存する1形式を導出。その曲率がチェス推論タスクで意味的に世界モデルと結びつくことを示した。

詳しい要約

1. どんなもの?

- GPT-style language models are sensitive to single-token changes at generation points where the predicted probability distribution is spread across multiple tokens. - This sensitivity is viewed as a geometric property. - The authors derive an $\mathfrak{so}(n)$-valued 1-form that depends only on the geometry of the token embeddings. - The curvature of this form is shown to be semantically meaningful. - On chess reasoning tasks, the curvature couples to the world model of an off-the-shelf instru…

2. 先行研究と比べてどこがすごい?

- 先行研究との具体的な比較は要旨からは不明。 - 従来、言語モデルの感度は確率的・統計的に分析されることが多かったが、本研究は幾何学的性質として捉え、$\mathfrak{so}(n)$-valued 1-formを導出した点が新しい。 - この幾何学的起源から意味論的な曲率が得られることを示した点が先行研究と異なる可能性がある。 - ただし、先行研究との詳細な差異は要旨からは不明。

3. 技術・手法の肝は?

- トークン埋め込みの幾何学のみに依存する $\mathfrak{so}(n)$-valued 1-form を導出。 - この1-formの曲率を計算し、その意味論的意義を分析。 - チェス推論タスクにおいて、曲率がoff-the-shelf instruction-tuned modelのworld modelと結合することを示す。 - 変換がボード領域ごとにクラスタリングし、駒の重要性を反映することを確認。 - 技術の肝は、言語モデルの出力分布のサンプリングによる誤差を幾何学的に定式化し、その曲率が内部状態と関連することを示した点。

4. どうやって有効だと検証した?

- チェス推論タスクを用いて検証。 - off-the-shelf instruction-tuned modelのworld modelとの結合を分析。 - 変換がボード領域ごとにクラスタリングし、駒の重要性を反映することを確認。 - これにより、曲率が意味論的に意味があることを実証。 - 具体的な評価指標やデータセットの詳細は要旨からは不明。

5. 議論はある?

- トークン空間の幾何学がモデルの内部表現を直接反映する可能性を示唆。 - 言語モデルの感度を幾何学的に理解する新たな視点を提供。 - ただし、他のタスクやモデルへの一般化可能性、限界については要旨からは不明。 - 議論の詳細は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法として、token embeddingsの幾何学、$\mathfrak{so}(n)$-valued 1-form、curvature、world model、instruction-tuned model、chess reasoning tasksが挙げられる。 - 同分野の定番として、language modelの内部表現分析、probing、mechanistic interpretabilityに関する論文が次に読むべき候補。 - 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Albert F. Modenbach

分類: cs.LG

原文アブストラクト

GPT-style language models are sensitive to single-token changes at generation points where the predicted probability distribution is spread across multiple tokens. Viewing this sensitivity as a geometric property, we derive an $\mathfrak{so}(n)$-valued 1-form that depends only on the geometry of the token embeddings. Despite this purely geometric origin, we show that its curvature is semantically meaningful: On chess reasoning tasks, the curvature couples to the world model of an off-the-shelf instruction-tuned model, with transformations clustering by board region and respecting piece importance. Our findings suggest that token space geometry directly reflects how models internally represent problems.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI