日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

マニピュレーションarXiv:2601.05336

視線で意図を読む:基盤モデルによる注視誘導型ロボットマニピュレーション

Intent at a Glance: Gaze-Guided Robotic Manipulation via Foundation Models

シェア:XThreadsFacebookLINEはてブBluesky

自己中心視点の視線追跡と視覚言語モデルを組み合わせ、ユーザーの注視から意図を推論して卓上マニピュレーションを自律実行するシステムGAMMAを提案した。

詳しい要約

1. どんなもの?

- どんなもの? - GAMMA (Gaze Assisted Manipulation for Modular Autonomy) というシステム。 - ego-centric gaze tracking と vision-language model を組み合わせ、ユーザの意図を推論しロボットマニピュレーションを自律実行。 - 注視点をシーン内で文脈化し、視覚的注意を高レベル意味理解にマッピング。 - タスク特異的訓練なしで skill selection と parameterization を可能にする。 - アシスティブケアなどでの直感的インタフェースを目指す。

2. 先行研究と比べてどこがすごい?

- 先行研究と比べてどこがすごい? - 従来の gaze-based control は推論なしのベースラインとして比較されている。 - GAMMA は foundation model を活用し、注視から意図を推論して自律実行する点が新しい。 - タスク特異的訓練を必要とせず、汎化可能な制御を実現。 - 注視をシーン文脈に統合することで、よりロバストで直感的な操作を提供。

3. 技術・手法の肝は?

- 技術や手法の肝はどこ? - ego-centric gaze tracking でユーザの注視を取得。 - vision-language model が注視点をシーン内で文脈化し、高レベル意味理解に変換。 - その理解に基づき skill selection と parameterization を実行。 - モジュール型自律性 (modular autonomy) を採用。 - タスク特異的訓練なしで動作。

4. どうやって有効だと検証した?

- どうやって有効だと検証した? - テーブルトップマニピュレーションタスク群で評価。 - 推論なしの gaze-based control ベースラインと比較。 - 結果、GAMMA はロバストで直感的、かつ汎化可能な制御を提供。 - 具体的なタスク数や指標は要旨からは不明。

5. 議論はある?

- 議論はある? - 要旨からは不明。 - 限界や失敗事例、ユーザビリティ評価の詳細には触れられていない。

6. 次に読むべき論文は?

- 次に読むべき論文は? - 要旨で参照/比較されている研究は明示されていない。 - 関連手法として gaze-based control、vision-language model、foundation model を用いたロボティクス、modular autonomy の論文が挙げられる。 - 同分野の定番として human-robot interaction や assistive robotics の研究も参考になる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Tracey Yee Hsin Tay, Xu Yan, Jonathan Ouyang, Daniel Wu, William Jiang, Jonathan Kao, Yuchen Cui

分類: cs.RO

原文アブストラクト

Designing intuitive interfaces for robotic control remains a central challenge in enabling effective human-robot interaction, particularly in assistive care settings. Eye gaze offers a fast, non-intrusive, and intent-rich input modality, making it an attractive channel for conveying user goals. In this work, we present GAMMA (Gaze Assisted Manipulation for Modular Autonomy), a system that leverages ego-centric gaze tracking and a vision-language model to infer user intent and autonomously execute robotic manipulation tasks. By contextualizing gaze fixations within the scene, the system maps visual attention to high-level semantic understanding, enabling skill selection and parameterization without task-specific training. We evaluate GAMMA on a range of table-top manipulation tasks and compare it against baseline gaze-based control without reasoning. Results demonstrate that GAMMA provides robust, intuitive, and generalizable control, highlighting the potential of combining foundation models and gaze for natural and scalable robot autonomy. Project website: https://gamma0.vercel.app/

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI