日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

HRI/指示理解arXiv:2604.04811

AnyUser: スケッチによるユーザ意図を家庭用ロボットへ変換する

AnyUser: Translating Sketched User Intent into Domestic Robots

シェア:XThreadsFacebookLINEはてブBluesky

カメラ画像への自由描画スケッチと任意の言語指示を統合し、事前マップやモデル不要で家庭用ロボットの実行可能な行動を生成する統一指示システムを提案。大規模データセットでの精度検証、実機2種でのタスク実行、多様なユーザ層でのユーザスタディにより有効性を示した。

詳しい要約

1. どんなもの?

- 家庭内タスクを自由なスケッチと任意の言語で指示できる統合ロボット指示システム。 - カメラ画像上へのスケッチ、視覚、言語をマルチモーダル入力として解釈。 - 空間的・意味的プリミティブに変換し、事前の地図やモデルなしで実行可能なロボット動作を生成。 - 多様な家庭環境でのスケッチベース指示の解釈精度を大規模データセットで評価。 - 実機検証とユーザスタディで有効性を確認。

2. 先行研究と比べてどこがすごい?

- 事前の地図やモデルを必要とせず、自由形式のスケッチと言語を組み合わせた指示を可能にした点。 - マルチモーダル融合と階層的ポリシーにより、多様なスケッチベースコマンドを高精度で解釈。 - 非専門家(高齢者、非言語シミュレーション、低技術リテラシー)でも使いやすいインタフェースを実現。 - 実世界の2つの異なるロボットプラットフォームでタスクを実行できることを確認。

3. 技術・手法の肝は?

- マルチモーダル融合:スケッチ、視覚、言語を統合して理解。 - 階層的ポリシー:ロバストな行動生成のための階層構造。 - 空間的・意味的プリミティブへの変換:指示を実行可能な動作にマッピング。 - 事前地図やモデル不要で、カメラ画像上への自由形式スケッチを直接解釈。

4. どうやって有効だと検証した?

- 大規模データセットでの定量ベンチマーク:多様なシミュレーション家庭環境でのスケッチベースコマンド解釈精度を評価。 - 実世界検証:2つのロボットプラットフォーム(KUKA LBR iiwa、Realman RMC-AIDAL)でターゲットワイピングやエリアクリーニングなどの代表タスクを実行。 - ユーザスタディ:多様な人口統計(高齢者、非言語シミュレーション、低技術リテラシー)で usability とタスク指定効率の改善、高いタスク完了率(85.7%-96.4%)と満足度を確認。

5. 議論はある?

- 要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明記されていない。 - 同分野の定番として、Vision-Language-Action (VLA) モデル、CLIPort、Transporter Networks、Language-Conditioned Imitation Learning などが関連。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Songyuan Yang, Huibin Tan, Kailun Yang, Wenjing Yang, Shaowu Yang

分類: cs.RO, cs.CV, cs.HC

原文アブストラクト

We introduce AnyUser, a unified robotic instruction system for intuitive domestic task instruction via free-form sketches on camera images, optionally with language. AnyUser interprets multimodal inputs (sketch, vision, language) as spatial-semantic primitives to generate executable robot actions requiring no prior maps or models. Novel components include multimodal fusion for understanding and a hierarchical policy for robust action generation. Efficacy is shown via extensive evaluations: (1) Quantitative benchmarks on the large-scale dataset showing high accuracy in interpreting diverse sketch-based commands across various simulated domestic scenes. (2) Real-world validation on two distinct robotic platforms, a statically mounted 7-DoF assistive arm (KUKA LBR iiwa) and a dual-arm mobile manipulator (Realman RMC-AIDAL), performing representative tasks like targeted wiping and area cleaning, confirming the system's ability to ground instructions and execute them reliably in physical environments. (3) A comprehensive user study involving diverse demographics (elderly, simulated non-verbal, low technical literacy) demonstrating significant improvements in usability and task specification efficiency, achieving high task completion rates (85.7%-96.4%) and user satisfaction. AnyUser bridges the gap between advanced robotic capabilities and the need for accessible non-expert interaction, laying the foundation for practical assistive robots adaptable to real-world human environments.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI