FiberTune: 視覚言語行動モデルの微調整における行動ファイバー視覚残差の保持

- Vision-Language-Action (VLA) ポリシーの action-supervised fine-tuning において、action-equivalent な状態間で visual structure が collapse する問題を『local action fibers に沿った residual visual collapse』として定式化。 - これを防ぐ training-time objective『FiberTune』を提案。 - 推論時の overhead を追加せず、teacher-structured visual residuals を保持する。

- 従来の action-supervised fine-tuning は予測 action を変える方向のみを制約し、action-equivalent な状態で一貫する visual structure の collapse を許容していた。 - FiberTune は task-loss-only fine-tuning と同一の学習条件で、2 benchmarks・2 architectures (pi_0.5, OpenVLA-OFT) にわたる6つの controlled simulation settings すべてで改善。 - 物理 SO-101 pick-place でも task success が 72.7% から 78.1% に向上。

- online action probe を用いて action-predictive feature directions を推定。 - それらを intermediate visual-token representations からフィルタリング。 - 得られた probe-filtered residuals を frozen visual teacher に align しつつ、effective rank を正則化。 - 推論時 overhead なしの training-time objective。

- 2 benchmarks・2 architectures (pi_0.5, OpenVLA-OFT) にわたる6つの controlled simulation settings で task-loss-only fine-tuning と比較。 - 物理 SO-101 pick-place タスクで検証。 - 代表的な結果: long-horizon CALVIN ABC-to-D で SR(5) が +10.7 percentage points、物理 SO-101 task success が 72.7% から 78.1% に向上。 - Residual diagnostics により、probe-filtered residual teacher alignment と effective rank の増加が性能向上と一致することを確認。

- 性能向上が probe-filtered residual teacher alignment と effective rank の増加と一致し、action-fiber motivation と整合することを residual diagnostics で示唆。 - ただし、collapse の理論的限界や他タスクへの一般化可能性、計算コストの詳細などは要旨からは不明。

- 要旨で参照/比較されている研究: task-loss-only fine-tuning、pi_0.5、OpenVLA-OFT、CALVIN、SO-101。 - 関連手法として vision-language-action (VLA) policies、action-supervised fine-tuning、visual teacher alignment、effective rank regularization が挙げられる。 - 同分野の定番として OpenVLA、RT-2、Diffusion Policy などが次に読むべき候補。