日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

動画理解arXiv:2610.12575

時間的ギャップに注意:運転における時間的理解のための動画モデル評価

Mind the Temporal Gap: Evaluating Video Models for Temporal Understanding in Driving

シェア:XThreadsFacebookLINEはてブBluesky

運転動画での行動識別タスクを通じて、動画言語モデルが時間的ダイナミクスを頑健に捉えているかを評価し、プロンプト手法の不安定さとLoRA微調整の有効性を示した。

詳しい要約

1. どんなもの?

- 運転動画における時間的推論能力を評価する研究。 - ego-motion タスクで video-language models の行動識別性能を検証。 - 標準的 prompting や chain-of-thought の信頼性を調査。

2. 先行研究と比べてどこがすごい?

- 従来は汎用 video reasoner と見なされがち。 - 本研究は安全臨界設定で時間動態の捕捉が不十分と示す。 - タスク・モデル依存性や class bias の持続を明らかに。

3. 技術・手法の肝は?

- 制御された ego-motion タスクを設計。 - standard/visual/few-shot/chain-of-thought prompting を比較。 - lightweight LoRA finetuning と中間視覚特徴の simple probes を適用。

4. どうやって有効だと検証した?

- 複数の video-language models で実験。 - prompting 手法の性能を比較評価。 - LoRA と probes が強い motion-discriminative 性能を回復することを確認。

5. 議論はある?

- 運動関連手がかりはモデル内部に存在するが最終経路で未使用。 - 現行モデルは frame-level で bias-driven な認識器に近い。 - 時間的世界モデルとして信頼できない可能性を議論。

6. 次に読むべき論文は?

- 要旨からは不明。 - 関連手法として video-language models, LoRA, chain-of-thought prompting が挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Shiva Sreeram, Erfan Aasi, Tsun-Hsuan Wang, Alaa Maalouf, Daniela Rus

分類: cs.CV, cs.RO

原文アブストラクト

Modern video-language models are increasingly treated as general-purpose video reasoners, yet it remains unclear whether they robustly capture temporal dynamics in safety-critical settings such as driving. We study this question through controlled ego-motion tasks that require identifying actions from driving videos. Across video-language models, we find that standard prompting, visual prompting, few-shot prompting, and chain-of-thought prompting remain unreliable and highly task- and model-dependent, with persistent class biases, although newer models show substantial task-specific few-shot gains. In contrast, lightweight LoRA finetuning and simple probes trained on intermediate visual features recover strong motion-discriminative performance, indicating that motion-relevant cues are often present inside the models but are not reliably used by the final video-to-language pathway. These results suggest that, in driving, current video-language models remain unreliable temporal reasoners and often behave more like frame-level, bias-driven recognizers than dependable temporal world models.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI