視覚言語行動モデルは言葉通りに意味しているか？身体化推論における忠実性の役割について

- Vision-Language-Action (VLA) モデルにおける Embodied Chain-of-Thought の忠実性 (faithfulness) を扱う研究。 - functional reasoning (性能向上) と faithful reasoning (内部意思決定を真に反映) を区別。 - 自動運転向け SoTA 推論モデルの人手評価で、推論品質と軌道改善の結合が不一致であることを示す。 - learned critic「Pinocchio」で observation grounding と stepwise coherence をスコア化し、強化学習の dense reward として事後学習。 - 忠実性が 4%/18% 向上、希少な counterfactual への応答性が 1.6x に。

- 従来の SoTA alignment 戦略は faithfulness の必要だが不十分な概念しか提供しないと主張。 - 中間推論ステップが confounding factors により action prediction の因果リンクを隠蔽しうる点を指摘。 - 推論品質と下流軌道改善の不一致を人手評価で実証した点が新しい。 - 行動的 surrogate (Pinocchio) を定義し、事後学習の報酬に用いる枠組みを提案。 - 忠実性向上が下流性能を維持しつつ汎化・解釈性も改善することを示唆。

- functional と faithful の区別を導入し、faithfulness の操作的定義を試みる。 - 自動運転の SoTA 推論モデルに対し人手評価を実施。 - learned critic「Pinocchio」を行動的 surrogate として構築。 - Pinocchio は observation grounding と stepwise coherence をスコア化。 - この critic を dense reward として強化学習で embodied policy を事後学習。 - 合成 out-of-distribution テストセットで counterfactual 応答性を評価。

- 自動運転向け SoTA 推論モデルの人手評価で推論品質と軌道改善の不一致を確認。 - withheld driving benchmarks で事後学習プランナーが faithfulness を SoTA alignment 比 4%、trajectory error 事後学習比 18% 改善。 - 下流タスク性能は競争力を維持。 - 合成 out-of-distribution テストセットで希少 counterfactual への応答性が SoTA の 1.6x。 - これらにより faithful reasoning traces が堅牢・汎化・解釈可能な embodied intelligence に寄与すると主張。

- SoTA alignment は faithfulness の必要十分でない概念を提供するに留まると議論。 - 環境に接地しない、内部的に断絶・不整合な推論が因果リンクを隠蔽し汎化を制限。 - 推論品質と下流軌道改善の結合が不一致であることを人手評価で示す。 - faithful reasoning traces がより堅牢で汎化・解釈可能な embodied intelligence に寄与する可能性を示唆。 - 限界や反証については要旨からは不明。

- 要旨で参照/比較されている SoTA alignment 戦略、trajectory error post-training ベースライン。 - 自動運転向け SoTA reasoning model。 - Embodied Chain-of-Thought 関連研究。 - Vision-Language-Action (VLA) モデル。 - 強化学習による事後学習 (RL post-training) と learned critic を用いた reward shaping の関連手法。