日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2606.26423

CoStream: 単純な行動の合成による汎用的な複雑操作の実現

CoStream: Composing Simple Behaviors for Generalizable Complex Manipulation

シェア:XThreadsFacebookLINEはてブBluesky

複雑な操作タスクを、基盤モデルと多様なセンシングを組み合わせた複数の単純な行動(意味的・予測的・反応的)に分解し、それらをSE(3)インターフェース上で合成することで、高精度と汎用性を両立するフレームワークを提案した。

詳しい要約

1. どんなもの?

- 長期的・接触リッチな複雑マニピュレーション(例: GPUをPCIeスロットに装着)を対象としたフレームワーク。 - 単一のmonolithic policyやrigid pipelineではなく、単純で独立したbehaviorの合成で複雑な能力を実現する。 - foundation modelsと多様なsensing modalitiesをorchestrateし、semantic/predictive/reactiveの3つのcore behaviorに分解する。 - 共有$SE(3)$インターフェース上で右乗算により合成し、compliant controllerで実行する。

2. 先行研究と比べてどこがすごい?

- 従来のclassical pipelinesは高精度だがtask-specificで脆く、新タスクには高コストな再設計が必要。 - monolithic end-to-end policiesは汎化は良いが、複雑なout-of-distributionタスクでは高精度を欠き、新データでの再学習が必要。 - 両者とも「獲得した能力はrigid pipelineかmonolithic wholeとして展開される」という暗黙の前提を持つ。 - CoStreamは能力を自由に分解・再合成可能とし、単純behaviorの合成から複雑な能力を自然に創発させる点が新しい。

3. 技術・手法の肝は?

- foundation modelsと多様なsensing modalitiesを複数のcomposable core behaviorに編成する。 - semantic behavior: foundation modelsによりspatial constraintsを抽出。 - predictive behavior: imagined videos内のkeypointsを追跡してtrajectoryを予測。 - reactive behavior: 高周波のtactileおよびforce補正を提供。 - 共有$SE(3)$インターフェース上で各出力を右乗算により合成し、各制御ステップで単一のpose commandを生成、compliant controllerが実行する。

4. どうやって有効だと検証した?

- 日常的マニピュレーションから精密assemblyまで8つのreal-worldタスクでCoStreamを実証。 - 特にcontact-rich assemblyとobject transferで最大の性能向上を示した。 - 実行中の手動perturbationsからのrobustなrecoveryも示した。

5. 議論はある?

- 要旨からは不明(限界や失敗事例、計算コスト、behavior間の競合などの議論は記載されていない)。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない。 - 関連手法としてclassical pipelines、monolithic end-to-end policies、foundation models、compliant controllerが挙げられる。 - 同分野の定番としてbehavior composition、tactile/force-based manipulation、video predictionに基づくmanipulationの文献が次に読む候補となる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Haonan Chen, Yuxiang Ma, Stephen Tian, Xiaoshen Han, Wenlong Huang, Feiyang Wu, Yunzhu Li, Jiajun Wu, Edward H. Adelson, Yilun Du

分類: cs.RO, cs.AI

原文アブストラクト

Long-horizon, contact-rich complex manipulation tasks, such as seating a GPU into a PCIe slot, demand both millimeter high precision and out-of-the-box generalization to new tasks. Existing paradigms struggle to satisfy both: classical pipelines use brittle, task-specific interfaces to achieve high-precision control but require costly pipeline redesigns to adapt to new tasks, whereas monolithic end-to-end policies provide better generalization but lack high precision on complex, out-of-distribution tasks unless retrained with new data. Both paradigms share an implicit assumption: once a manipulation capability is acquired, it must be deployed as a rigid pipeline or monolithic whole, rather than being freely decomposed and recomposed. In this paper, we show that complex manipulation capabilities can emerge naturally from the composition of simple, independent behaviors. Rather than deploying a monolithic policy or a rigid pipeline, we propose CoStream, a framework orchestrating foundation models and diverse sensing modalities into multiple composable core behaviors: a semantic behavior extracting spatial constraints via foundation models; a predictive behavior forecasting trajectories by tracking keypoints in imagined videos; and a reactive behavior providing high-frequency tactile and force corrections. On a shared $SE(3)$ interface, these outputs compose by right-multiplication into a single pose command at each control step, executed by a compliant controller. We demonstrate CoStream on 8 real-world tasks spanning everyday manipulation and precision assembly, with the strongest gains in contact-rich assembly and object transfer, and show robust recovery from manual perturbations during execution. Website: https://costream-simple.github.io

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI