Deep Koopmanブースト拡散方策による模倣学習の分布外状態へのロバスト性向上

- 拡散モデルとaction chunkingを組み合わせた模倣学習の新手法 D3P (Deep Koopman-boosted Dual-branch Diffusion Policy) の提案。 - ロボットマニピュレーションにおける out-of-distribution 状態への頑健性向上を目的とする。 - 視覚のみの branch と視覚+proprioceptive を統合する fused branch からなる dual-branch アーキテクチャを採用。 - Deep Koopman Operator module により視覚入力から構造化された時間的ダイナミクスを学習。 - 推論時に生成モデルの test-time loss を confidence signal として action chunk の集約に利用。

- 既存の diffusion-based paradigm は複数ステップにわたる強い時間的依存関係の捕捉が苦手で、proprioceptive input を組み込むと視覚由来の特徴より proprioceptive cues に過適合しやすい問題があった。 - D3P は dual-branch 構成で感覚モダリティの役割を分離し、この過適合問題に対処。 - 中間目標(例: drawer handle の把持)失敗時に visual branch の action chunk へ動的に切り替えて回復・再試行できる点が新しい。 - シミュレーション6タスクで state-of-the-art diffusion policy を平均14.6%上回り、実機3タスクで15.0%改善。

- dual-branch architecture: visual branch が視覚観測を符号化してタスク進行を表現し、fused branch が視覚+proprioceptive を統合して精密操作を担う。 - 失敗時に visual branch が生成する action chunk へ動的に切り替え、過去に観測された状態へ回復して再試行を可能にする仕組み。 - Deep Koopman Operator module を導入し、視覚入力から構造化された時間的ダイナミクスを獲得して視覚表現学習を強化。 - 推論時、生成モデルの test-time loss を confidence signal として用い、時間的に重複する予測 action chunk の集約を誘導。

- シミュレーション: RLBench の6つの tabletop タスクで評価し、state-of-the-art diffusion policy に対し平均14.6%の性能向上を確認。 - 実機: 3つの real-world robotic manipulation タスクで15.0%の改善を報告。 - コードは https://github.com/dianyeHuang/D3P で公開。 - 詳細なアブレーションや評価指標は要旨からは不明。

- proprioceptive cues への過適合がタスク失敗を招くという問題意識を提示し、モダリティ分離で対処する設計思想を示す。 - 失敗時の visual branch への動的切り替えによる回復・再試行という枠組みを提案。 - test-time loss を confidence signal として使う集約戦略の有効性に言及。 - 限界や失敗事例、計算コスト、dual-branch 切り替えの閾値設計などの詳細な議論は要旨からは不明。

- Diffusion Policy (state-of-the-art diffusion policy として比較対象)。 - Action chunking を用いる模倣学習手法(例: ACT)。 - Deep Koopman Operator に関する研究。 - RLBench ベンチマーク関連研究。 - 模倣学習における out-of-distribution 状態への頑健性を扱う研究。