日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2606.17480

GeneralVLA-2: 幾何認識再構成と管理されたメモリによるロボット計画

GeneralVLA-2: Geometry-Aware Reconstruction and Governed Memory for Robot Planning

シェア:XThreadsFacebookLINEはてブBluesky

ロボットの軌道計画のための視覚言語行動モデルを改善し、3D再構成の精度向上と長期メモリの品質管理を実現した。

詳しい要約

1. どんなもの?

- GeneralVLA-2は、言語とRGB-D観測から3Dエンドエフェクタ経路を生成するgeneralist vision-language-actionシステム - 階層的インタフェースを提供し、物体中心の3D証拠と再利用可能な操作経験を活用 - 2つのボトルネックを解決: 単眼SAM3D風再構成の幻覚と、KnowledgeBankの記憶品質管理 - GeoFuse-MV3Dとgoverned long-term memoryを導入 - コードとウェブサイトを公開

2. 先行研究と比べてどこがすごい?

- 先行のGeneralVLAは階層的インタフェースを提供したが、2つのボトルネックが残存 - 単眼SAM3D風再構成は姿勢や未見形状を幻覚し、多視点校正観測があれば安定形状が得られる - 元のKnowledgeBankは意味的に類似したスニペットを検索し新知識を追加するのみで、品質・矛盾・信頼度・幾何関連性の制御が困難 - GeoFuse-MV3DはMV-SAM3Dベースラインに対しCDとLPIPSを2.20%と2.02%削減、PSNRとSSIMを2.36%と1.03%向上 - KnowledgeBankはReasoningBankに対しTerminal-Bench SRで4.53%、SWE-Bench resolve rateで3.73%向上、ASを4.95%と5.65%削減

3. 技術・手法の肝は?

- GeoFuse-MV3D: 幾何事前誘導型MV-SAM3D再構成ブランチ - 入力ビューマスクで外部幾何手がかりを検証 - ソフトvisual-hullサポートを適用 - 軸方向リファインメントを実行 - 外観を保持しつつ幾何のみを融合 - KnowledgeBankをgoverned long-term memoryにアップグレード: 品質・信頼度・ライフサイクル・検証器・矛盾メタデータを明示 - 精度指向の検索を実装

4. どうやって有効だと検証した?

- 再構成ブランチをGSO-30で評価 - 記憶モジュールをTerminal-Bench 2.0とSWE-Bench Verifiedで評価 - GeoFuse-MV3DはMV-SAM3Dベースラインに対しCDとLPIPSを2.20%と2.02%削減、PSNRとSSIMを2.36%と1.03%向上 - KnowledgeBankはReasoningBankに対しTerminal-Bench SRで4.53%、SWE-Bench resolve rateで3.73%向上、ASを4.95%と5.65%削減

5. 議論はある?

- 要旨からは不明

6. 次に読むべき論文は?

- MV-SAM3D - SAM3D - ReasoningBank - GeneralVLA - GSO-30 - Terminal-Bench 2.0 - SWE-Bench Verified

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Haoyu Wang, Guoqing Ma, Zeyu Zhang, Yandong Guo, Boxin Shi, Hao Tang

分類: cs.CV, cs.RO

原文アブストラクト

Generalist vision-language-action systems need object-centric 3D evidence and reusable manipulation experience to plan reliable robot trajectories. GeneralVLA provides a hierarchical interface for converting language and RGB-D observations into 3D end-effector paths, but two bottlenecks remain. First, monocular SAM3D-style object reconstruction can hallucinate pose and unseen geometry, while manipulation benefits from stable object shape when calibrated multi-view observations are available. Second, the original KnowledgeBank mainly retrieves semantically similar snippets and appends new knowledge, which makes it difficult to control memory quality, conflicts, confidence, and geometric relevance. To address the first challenge, we introduce GeoFuse-MV3D, a geometry-prior-guided MV-SAM3D reconstruction branch that verifies external geometry cues with input-view masks, applies soft visual-hull support, performs axis-wise refinement, and fuses only geometry while preserving appearance. To address the second challenge, we upgrade KnowledgeBank into a governed long-term memory system with explicit quality, confidence, lifecycle, verifier, and conflict metadata, together with precision-oriented retrieval. Finally, we evaluate the reconstruction branch on GSO-30 and the memory module on Terminal-Bench 2.0 and SWE-Bench Verified; GeoFuse-MV3D improves over the MV-SAM3D baseline by reducing CD and LPIPS by 2.20% and 2.02% while increasing PSNR and SSIM by 2.36% and 1.03%, and KnowledgeBank improves over ReasoningBank by 4.53% on Terminal-Bench SR and 3.73% on SWE-Bench resolve rate, while reducing AS by 4.95% and 5.65%, respectively. Code: https://github.com/AIGeeksGroup/GeneralVLA-2. Website: https://aigeeksgroup.github.io/GeneralVLA-2.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

OZ GAMING(GPU搭載BTOゲーミングPC)

OZ GAMING(GPU搭載BTOゲーミングPC)の公式広告バナーOZ GAMINGで完成品PCを見る ↗
PR本紙発行元 EmplifAI