日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

認知推論arXiv:2611.00387

人間とニューラルネットワークにおける幾何学的・代数的推論

Geometric and algebraic inference in humans and neural networks

シェア:XThreadsFacebookLINEはてブBluesky

人間とニューラルネットワークが限られたデータから推論する際の「幾何学的」と「代数的」という2つの戦略を定式化し、その計算的トレードオフと観測条件を実験的に明らかにした論文。

詳しい要約

1. どんなもの?

- 人間とneural networksにおける推論戦略を「geometric inference」と「algebraic inference」の2種類に定式化し、その計算的トレードオフを研究する論文。 - geometric strategyは表現幾何(representational geometry)を関係構造に合わせて徐々に形成し、その後の推論を低コストにする。 - algebraic strategyは文脈中で与えられた新規関係に柔軟に注意を向けて推論するが、推論時に追加の計算コストを要する。 - transitive inferenceを対象に両戦略の相反するsignatureを同定し、それぞれが観察される条件を特徴づける。

2. 先行研究と比べてどこがすごい?

- 従来は認知柔軟性をrepresentational geometryかalgebraic manipulationのいずれかに重きを置く競合視点があったが、本frameworkは両者がそれぞれ独自の強みを持ち、人間とneural networkの行動の異なる側面を特徴づけ得ることを示す。 - transitive inferenceで両戦略の相反するsignatureを同定し、観察条件を明示的に特徴づけた点が新しい。 - 人間・neural networks・LLMsに共通するsignatureを示し、human/LLM推論のcontent effectsやmachine learningのdata-distribution effectsといった一見異なる現象を統一する点がすごい。

3. 技術・手法の肝は?

- geometric strategyとalgebraic strategyを形式化し、計算的トレードオフを分析するframeworkを構築。 - transitive inferenceを実験課題として用い、両戦略の相反するsignatureを同定。 - 関係がfamiliarな場合はgeometric strategyが優勢、文脈中のde novo推論ではalgebraic strategyが出現すると予測。 - neural networksへのcausal interventionsにより、geometric strategyはrepresentational geometry、algebraic strategyはselective attention mechanismsに依存することを示す。

4. どうやって有効だと検証した?

- 複数の実験で、人間、scratchから訓練したneural networks、large language models (LLMs)において両戦略の相反するsignatureを実証。 - neural networksへのcausal interventionsが、両戦略がそれぞれrepresentational geometryとselective attention mechanismsに依存することを明らかにし、人間における類似のneurobiological disruptionsの効果を再現。 - 詳細な実験設定・指標は要旨からは不明。

5. 議論はある?

- geometric strategyとalgebraic strategyはそれぞれ独自の強みを持ち、認知柔軟性に関する競合視点を調和させる。 - 両戦略が人間とneural networkの行動の異なる側面を特徴づけ得ることを示す。 - human/LLM推論のcontent effectsやmachine learningのdata-distribution effectsなど、 disparateな現象をframeworkで統一。 - 各戦略の限界や適用条件の詳細、実験の外的妥当性については要旨からは不明。

6. 次に読むべき論文は?

- transitive inferenceに関する比較認知・神経科学の研究(要旨で言及されるspecies横断研究)。 - human/LLM推論のcontent effectsに関する研究。 - machine learningにおけるdata-distribution effectsに関する研究。 - representational geometryとselective attentionに関する神経生物学的介入研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jacob Russin, Joonhwa Kim, Ellie Pavlick, Michael J. Frank

分類: q-bio.NC, cs.AI, cs.CL, cs.LG

原文アブストラクト

Humans possess a remarkable ability to draw inferences from limited data. While some inferences are made intuitively from past experience, others require online reasoning based on novel information given in context. Here, we formalize these strategies, which we term geometric and algebraic inference, and study their computational tradeoffs in humans and neural networks. The geometric strategy gradually shapes representational geometry to reflect underlying relational structure, making subsequent inference cheap. The algebraic strategy flexibly attends to and reasons over novel relations given in context, but costs additional computation at inference time. We identify opposing signatures of these two strategies in transitive inference, a domain widely studied across species, and characterize the conditions under which each is observed. Our framework predicts that the geometric strategy should be dominant when relations are familiar, whereas the algebraic should emerge to support de novo inferences drawn in context. Multiple experiments demonstrate these opposing signatures in humans, neural networks trained from scratch, and large language models (LLMs). Causal interventions in the neural networks reveal that the geometric and algebraic strategies depend on representational geometry and selective attention mechanisms, respectively, and reproduce the effects of analogous neurobiological disruptions in humans. Our framework unifies these effects with disparate phenomena, including content effects observed in human and LLM reasoning and data-distribution effects observed in machine learning. Our findings reconcile competing views of cognitive flexibility that emphasize either representational geometry or algebraic manipulation by showing that each can have unique strengths, and can characterize different aspects of both human and neural network behavior.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI