機構的解釈可能性と最適制御によるワールドアクションモデルの堅牢性向上

本論文は、World Action Models (WAMs) のロバスト性を、メカニスティック解釈可能性と最適制御を用いて向上させる手法を提案している。WAMsは意味的・物理的に情報を得た制御を可能にするが、分布シフトに対して脆弱である。本研究では、ロバスト性に関連する摂動がWAMの活性化空間でどのように表現されるかを調査し、成功と失敗のロールアウトの活性化を比較することで、一部のアーキテクチャではロバスト性に重要な特徴が低次元の線形分離可能性を示すことを発見した。これに基づき、トレーニング不要のWAMステアリングのための対照的活性化方向を提案し、さらに局所線形性を利用したモデルベース最適制御によるフィードバックステアリング手法（WA-LQR）を導入する。

先行研究では、WAMsのロバスト性向上は主にデータ拡張やプロンプトエンジニアリングなどの外部手段に依存していた。本研究は、モデル内部のメカニスティック解釈可能性を用いて、ロバスト性に関連する特徴の表現を直接分析し、活性化空間での線形分離性を利用したトレーニング不要のステアリング手法を提案している点が新しい。また、最適制御を適用してフィードバックステアリングを実現する点も、従来のオープンループ的なステアリング手法と異なる。

手法の核は、(1) 成功と失敗のロールアウトの活性化を比較し、ロバスト性に重要な特徴が低次元の線形分離可能な方向として現れることを利用したcontrastive activation directionsによるトレーニング不要のステアリング、(2) WAMの活性化ダイナミクスの局所線形性を利用し、モデルベース最適制御（LQR）を適用したWorld-Action Linear Quadratic Regulator (WA-LQR) の提案である。WA-LQRは最小侵襲の低次元コントローラであり、対照的方向を新しいタスクに一般化する。

メカニスティック評価により、Cosmos-PolicyとDiT4DiTモデルでは強いステアリング可能性を予測し、LingBot-VAでは弱いと予測した。これは実際のステアリング介入結果と一致した。Cosmos-PolicyとDiT4DiT上で、WA-LQRは対照的方向を新しいタスクに一般化し、カメラ、グリッパー、視覚ノイズの摂動に対するロバスト性を、ステアリングなしおよびプロンプトステアリングのベースラインと比較して向上させた。

要旨からは、提案手法がすべてのWAMアーキテクチャに有効ではない可能性が示唆される（LingBot-VAでは弱い）。また、線形分離可能性が低次元であることの条件や、局所線形性の仮定がどの程度広く成り立つかについては不明である。さらに、実世界の複雑なタスクでの有効性や、計算コストに関する議論は要旨には含まれていない。

要旨で参照されているモデルはCosmos-Policy、DiT4DiT、LingBot-VAであり、これらはWorld Action Modelsの具体例である。関連手法として、mechanistic interpretability、contrastive activation directions、model-based optimal control、LQRが挙げられる。次に読むべき論文としては、これらのモデルの詳細や、mechanistic interpretabilityの一般的な手法に関する論文が考えられるが、要旨からは特定の論文名は不明である。