世界インコンテキスト学習によるエージェント型ロボットマニピュレーション

訓練済みaction policyが操作スキルをネットワーク重みに書き込み、学習元の分布に縛られるのに対し、in-context learning (ICL)の枠組みでロボット操作を学習させるパラダイムWorld In-Context Learning (WICL)を提案する研究。frozen modelがdemonstrationから開始し、simulatorなどのworldでタスクをrehearsalし、そのfeedbackを重みではなくcontextに書き込む。これを実装したmodular infrastructureがRoboScriptで、agentic manipulation向けに単一demonstrationからタスクを学習し、Task Memoryとして凍結して新規sceneへ展開する。

従来のtrained action policyは学習を重みに閉じ込め学習分布に縛られ、ICLはその結合を避けるが他sceneで記録されたdemonstrationには現在のworldからのfeedbackが無くtrained policyに及ばなかった。本研究はcontextで学ぶ内容が視覚的外観ではなくタスク手順やobject roleといったsemanticであるという観察に基づき、あるworldの経験が別worldへ転移すると主張。RoboTwin 2.0の全50タスクで、タスク毎に1 demonstrationかつgradient更新なしでclean/randomized設定平均83.4%成功を達成し、最強のtrained action policyを20ポイント以上上回った。

- WICL: frozen modelがdemonstrationを起点にsimulator等のworldでタスクをrehearsalし、feedbackをweightsでなくcontextへ書き込む - RoboScript: WICLをagentic manipulation向けに実装するmodular infrastructure - 単一demonstrationからsimulation内rehearsalで各タスクを学習し、学習知識をTask Memoryとして凍結 - 凍結したmemoryを新規sceneへdeploy。data isolationにより全deployment入力が実機ロボットで利用可能であることを保証 - cross-embodiment memory adaptationにより物理dual-arm robotへ転送

- RoboTwin 2.0の全50タスクで評価し、clean/randomized設定平均83.4%成功(タスク毎1 demonstration、gradient更新なし) - 最強のtrained action policyを20ポイント以上上回ることを確認 - 視覚分布間の汎化、reflectionによる改善、foundation model規模へのscalingを検証 - cross-embodiment memory adaptationを介した物理dual-arm robotへの転送を検証

要旨からは不明。ただし『worldをloopに入れることで、ロボットは重みで学ぶのと同程度にcontextで操作タスクを学べる』と主張しており、ICLとtrained policyの性能差をworld feedbackのcontext書き込みで埋める点が中心的議論と読める。限界や失敗事例の詳細は要旨からは不明。

要旨で参照/比較されているのはtrained action policy、in-context learning (ICL)、RoboTwin 2.0、cross-embodiment memory adaptation。関連手法としてsimulation-based rehearsalやTask Memoryを用いるagentic manipulation研究、foundation modelのscalingを扱う研究を次に読むべき候補として挙げる。