BINDER: オープンボキャブラリ指示による即応的適応型モバイルマニピュレーション
BINDER: Instantly Adaptive Mobile Manipulation with Open-Vocabulary Commands
戦略計画を担うマルチモーダルLLMと映像を連続監視するVideoLLMを組み合わせ、動的な環境変化に即応しながら言語指示で移動・操作を行うデュアルプロセス型のモバイルマニピュレーション手法を提案。
詳しい要約
1. どんなもの?
2. 先行研究と比べてどこがすごい?
3. 技術・手法の肝は?
4. どうやって有効だと検証した?
5. 議論はある?
6. 次に読むべき論文は?
※ AIが要旨から生成した要約です。正確性は原文をご確認ください。
著者: Seongwon Cho, Daechul Ahn, Donghyun Shin, Hyeonbeom Choi, San Kim, Jonghyun Choi
分類: cs.RO, cs.AI
原文アブストラクト
Open-vocabulary mobile manipulation (OVMM) requires robots to follow language instructions, navigate, and manipulate while updating their world representation under dynamic environmental changes. However, most prior approaches update their world representation only at discrete update points such as navigation targets, waypoints, or the end of an action step, leaving robots blind between updates and causing cascading failures: overlooked objects, late error detection, and delayed replanning. To address this limitation, we propose BINDER (Bridging INstant and DEliberative Reasoning), a dual process framework that decouples strategic planning from continuous environment monitoring. Specifically, BINDER integrates a Deliberative Response Module (DRM, a multimodal LLM for task planning) with an Instant Response Module (IRM, a VideoLLM for continuous monitoring). The two modules play complementary roles: the DRM performs strategic planning with structured 3D scene updates and guides what the IRM attends to, while the IRM analyzes video streams to update memory, correct ongoing actions, and trigger replanning when necessary. Through this bidirectional coordination, the modules address the trade off between maintaining awareness and avoiding costly updates, enabling robust adaptation under dynamic conditions. Evaluated in three real world environments with dynamic object placement, BINDER achieves substantially higher success and efficiency than SoTA baselines, demonstrating its effectiveness for real world deployment.
関連論文
- MOMASPLAT: モバイルマニピュレーションのための動的な新規視点デモンストレーション拡張モバイルマニピュレーション
- 長期モバイルマニピュレーションにおける環境・プロセス記憶ベンチマークモバイルマニピュレーション
- Pixel: 汎用モバイルマニピュレーション学習のための協調設計フルスタックロボットシステムモバイルマニピュレーション
- FEIJOA: モバイルマニピュレーションのためのタスク駆動型グラウンディングと実行モバイルマニピュレーション
- 階層型残差方策学習による実世界モバイルマニピュレーションの疎な人間ガイダンスモバイルマニピュレーション
- モバイルマニピュレーションの突破口:失敗診断からエージェント型ロボットシステムへモバイルマニピュレーション
