日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2609.33935

動画タスクを時空間アナロジーで統合するViGeo

Video, Ergo Genero: Unifying Video Tasks via Spatiotemporal Analogy

シェア:XThreadsFacebookLINEはてブBluesky

画像分野に限られていた視覚的アナロジーによる文脈内学習を動画領域に拡張し、時空間キャンバス補完によって多様な動画タスクを学習なしで統合・汎化するフレームワークViGeoを提案。

詳しい要約

1. どんなもの?

- ビデオタスクを統一するフレームワークViGeoを提案。 - 視覚的アナロジーをビデオ領域に拡張し、時空間キャンバス補完でタスクを指定。 - 多様なタスク分類で評価し、未見のビデオ操作やゼロショットモダリティ(イベントカメラなど)に汎化。 - タスク内部化現象を特定し、プロンプト形式とタスク同一性の相関除去の必要性を示す。

2. 先行研究と比べてどこがすごい?

- 従来の視覚的アナロジーは画像領域に限定されていた。 - ViGeoはこれをビデオ領域に拡張し、多様なビデオタスクを統一。 - 訓練不要の代替手段を提供し、追加のデータキュレーションやファインチューニングを不要にする。 - 分布外シナリオへの汎化を実現。

3. 技術・手法の肝は?

- 時空間キャンバス補完によるビデオin-context learning。 - 視覚的アナロジーをビデオに適用し、タスクをコンテキスト内で指定。 - クエリ形式とタスクの相関を除去するため、少量のタスク無関係データを使用。

4. どうやって有効だと検証した?

- 多様なタスク分類で厳密な訓練-テスト分割を用いて評価。 - 未見のビデオ操作やゼロショットモダリティ(イベントカメラなど)への汎化を検証。 - タスク内部化現象を特定し、少量のタスク無関係データでショートカットを除去できることを示す。

5. 議論はある?

- タスク内部化:事前訓練タスクに関連するクエリ形式がデモンストレーションを上書きする現象。 - このショートカットは少量のタスク無関係データで除去可能。 - プロンプト形式とタスク同一性を非相関化する必要性を強調。

6. 次に読むべき論文は?

- 要旨からは不明(参照/比較されている研究が明示されていない)。 - 関連手法としてvisual in-context learning、visual analogy、video in-context learningが挙げられる。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Chia-Hsiang Kao, Belinda Zeng, Bharath Hariharan, Menglin Jia

分類: cs.CV, cs.AI

原文アブストラクト

Adapting video models to new tasks typically requires dedicated data curation and fine-tuning. While visual analogy provides a training-free alternative by specifying tasks in-context, it remains restricted to the image domain. To explore whether analogy-based methods can unify diverse video tasks and generalize to out-of-distribution scenarios, we introduce ViGeo, a framework that extends visual in-context learning to the video domain via spatiotemporal canvas completion. Evaluated on a diverse task taxonomy with a strict train-test split, ViGeo generalizes to unseen video manipulations and zero-shot modalities (e.g., event cameras). Finally, we identify task internalization, where a query format associated with a pretrained task overrides the demonstration, and show that this shortcut can be removed with a small amount of task-unrelated data, highlighting the need to decorrelate prompt format from task identity.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI