日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

3D再構成arXiv:2611.11304

TransArt3D: 動画遷移事前分布を用いた2状態からの関節付き3D再構成

TransArt3D: From Two States to Articulated 3D Reconstruction with Video Transition Priors

シェア:XThreadsFacebookLINEはてブBluesky

2枚の端点画像から、動画拡散モデルの遷移事前分布を活用して部品構造と関節運動を明示的に推定し、関節付き3Dアセットを再構成する最適化フレームワーク。

詳しい要約

1. どんなもの?

- 二枚の端点画像から関節付き3Dアセットを再構成する最適化ベースのフレームワーク TransArt3D を提案 - 対象はロボティクスやシミュレーションで重要な interactable articulated assets - 二状態間の遷移を video diffusion model の prior として利用 - 出力は part 構造・joint kinematics・canonical appearance を含む - 入力が少なく highly underconstrained な設定を扱う

2. 先行研究と比べてどこがすごい?

- 既存の最適化手法は static 3D prior で各状態を独立評価し、per-state 誤差が可動部や joint に false motion として漏れる - video diffusion model は物体の動きを2Dで暗黙的にしか捉えない - TransArt3D は video transition prior を明示的な part 構造と joint kinematics に変換 - 同じ二端点入力の手法より geometry と joint accuracy で優位 - 六状態入力の手法に対しても articulated-state geometry・joint localization・appearance で上回る

3. 技術・手法の肝は?

- 端点間の生成フレームを transition-coupled 3D consensus で持ち上げ、static 3D prior をフレーム横断で jointly 適用 - 不変領域を安定化し part と joint を初期化 - rectified-flow kinematic refinement で video prior が遷移全体の 3D motion field を監督 - part assignment と shared joint が最適化全体で場を制約し per-state 誤差の混入を防ぐ - motion-aware canonical appearance fusion で両端点画像を一つの canonical surface に写像し片状態のみの領域を texture 化

4. どうやって有効だと検証した?

- PartNet-Mobility 上で評価 - 同じ二端点入力を与えた手法と geometry・joint accuracy で比較 - 六観測状態を与えた手法とも articulated-state geometry・joint localization・appearance で比較 - いずれも TransArt3D が上回ると報告 - 定量的指標の詳細は要旨からは不明

5. 議論はある?

- per-state 誤差が articulation に漏れる問題への対処が中心的議論 - video prior を 2D 暗黙情報から明示的構造へ変換する設計の妥当性 - 二端点のみという制約下での限界や失敗ケースは要旨からは不明 - 計算コストや最適化安定性の議論は要旨からは不明

6. 次に読むべき論文は?

- PartNet-Mobility を用いた articulated object 再構成の関連研究 - static 3D prior に基づく最適化型 articulated reconstruction 手法 - video diffusion model を用いた動き・遷移生成の研究 - rectified-flow に基づく生成・最適化手法 - 単一/少数画像からの articulated asset 再構成の比較手法(具体名は要旨からは不明)

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Chenhao Guan, Liying Yang, Xinxing Yu, Hao Mo, Tianshun Han, Renjun Gao, Yanyan Liang

分類: cs.CV

原文アブストラクト

Reconstructing interactable articulated assets from a few images is key to robotics and simulation, yet highly underconstrained. Existing optimization-based methods fit an articulated asset under a static 3D prior that scores each state independently, so per-state reconstruction errors leak into the estimated moving part and joint as false motion. Video diffusion models capture how objects move between states, but only implicitly in 2D. To this end, we present TransArt3D, an optimization-based framework that reconstructs an articulated 3D asset from two endpoint images by translating this video transition prior into explicit part structure and joint kinematics. It first lifts frames generated between the endpoints with a transition-coupled 3D consensus that applies the static 3D prior jointly across frames, stabilizing unchanging regions and initializing the parts and joint. A rectified-flow kinematic refinement then lets the video prior supervise a 3D motion field over the whole transition, while part assignment and a shared joint constrain the field throughout optimization, keeping per-state errors out of the articulation. Finally, a motion-aware canonical appearance fusion uses the recovered articulation to map both endpoint images onto one canonical surface, texturing regions that only one state reveals. On PartNet-Mobility, TransArt3D outperforms methods given the same two endpoints in geometry and joint accuracy, and surpasses methods given six observed states in articulated-state geometry, joint localization and appearance.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI