日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2607.02991

GuideMe: ストリーミング動画におけるマルチドメインタスクガイダンスと介入

GuideMe: Multi-Domain Task Guidance and Intervention in Streaming Video

シェア:XThreadsFacebookLINEはてブBluesky

マルチモーダル大規模言語モデルがリアルタイムの手順コーチとして機能できるかを評価するため、多領域のストリーミング動画ベンチマークGuideMeを構築し、既存モデルの性能を分析した。

詳しい要約

1. どんなもの?

GuideMeは、ストリーミングビデオにおけるマルチドメインのタスクガイダンスと介入のための最初のベンチマークである。2,458本のビデオ(合計223.7時間)を、料理、物体操作、日常生活ガイダンス、フィットネスなどの多様なドメインから収集し、47,775のインタラクションサンプル(次のステップ指示、完了フィードバック、エラー検出、修正ガイダンス)を含む。MLLMのクローズドループ対話型タスクガイダンス能力のトレーニングと評価を支援する。

2. 先行研究と比べてどこがすごい?

先行研究はオフラインのビデオ理解に焦点を当てており、リアルタイムの手順コーチとしてのMLLMの能力は未検証だった。GuideMeは、ストリーミングビデオにおけるクローズドループの対話型タスクガイダンスを評価する最初のベンチマークであり、エラー検出と修正ガイダンスを含む点で先行研究より進んでいる。

3. 技術・手法の肝は?

手法の肝は、3つのコンポーネントからなる評価フレームワークである。1) シーケンスレベルのアライメントのための時間意味的二部マッチング、2) 介入タイミングのための行動分類、3) コンテンツ品質のためのLLM-as-a-Judge。これにより、MLLMの指示提供、エラー検出、修正フィードバックの能力を多角的に評価する。

4. どうやって有効だと検証した?

代表的なMLLMをGuideMe上で評価し、指示提供では優れているが、実行エラーの識別と修正フィードバックでは一貫して失敗するという性能の非対称性を明らかにした。実験により、既存モデルの限界を実証した。

5. 議論はある?

要旨からは、性能非対称性の原因や、エラー検出の失敗がモデルアーキテクチャによるものか、トレーニングデータによるものかについての議論は不明。また、評価フレームワークのLLM-as-a-Judgeの信頼性や、ベンチマークのドメイン代表性についての議論も要旨には含まれていない。

6. 次に読むべき論文は?

要旨で参照されている関連研究は明示されていないが、同分野の定番として、ビデオ理解のためのMLLM(例:Video-LLaMA, Video-Chat)や、手順的タスクのベンチマーク(例:YouCook2, COIN)が挙げられる。また、クローズドループのロボットガイダンスに関する研究も関連する。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Fang Liu, Jinpeng Chen, Ke Xu, Yuhao Liu, Huankang Guan, Xudong Lu, Bo Yang, Gerhard Hancke, Rui Liu, Rynson W. H. Lau

分類: cs.CV

原文アブストラクト

While multimodal Large Language Models (MLLMs) excel at offline video understanding, an interesting question of how far they are from serving as a real-time procedural coach remains unknown. Such a role typically requires an MLLM to continuously monitor the execution, detect mistakes, and provide corrective guidance in a closed-loop interaction. In this paper, we construct GuideMe, the first multi-domain benchmark for streaming video that supports training and evaluation of MLLMs for closed-loop interactive task guidance. It comprises 2,458 videos spanning 223.7 hours across diverse domains (\eg, cooking, object manipulation, daily-life guidance, and fitness), with 47,775 interaction samples covering next-step instructions, completion feedback, error detection, and corrective guidance. To evaluate existing models on GuideMe, we design a three-component assessment framework to measure the capabilities of representative MLLMs, which consists of temporal-semantic bipartite matching for sequence-level alignment, behavioral classification for intervention timing, and LLM-as-a-Judge for content quality. Extensive experiments highlight a critical performance asymmetry: despite excelling at providing instructions, existing MLLMs consistently fail to identify execution errors and respond with corrective feedback. Code and data are released at https://fawnliu.github.io/project/guideme.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI