日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

VLAarXiv:2611.11674

脳に倣う潜在行動:ロボットの行動語彙に前運動皮質の幾何構造を課す

Brain-Aligned Latent Actions: Imposing Premotor Cortex Geometry on a Robot's Action Vocabulary

シェア:XThreadsFacebookLINEはてブBluesky

ロボットの離散潜在行動トークナイザのコード割り当てに、サル前運動皮質(PMv)の表現幾何を類似度損失で注入し、未見形状カテゴリでもPMvとの表現類似度0.52を達成した研究。

詳しい要約

1. どんなもの?

- ロボット政策が使う離散 latent action の語彙に対し、どの動作にどの code を割り当てるかという自由度を利用し、macaque ventral premotor cortex (PMv) の表現幾何を課す研究。 - 対象は Moto の latent motion tokenizer。形状描画中の PMv 記録を教師として code assignment を整列させる。 - 学習は robot video 上の reconstruction objective と straight-through similarity loss を同時に最適化する枠組み。

2. 先行研究と比べてどこがすごい?

- 既存の latent action 学習は code assignment が不安定で、独立 2 回の学習で同一 robot clip がほぼ無関係な code になる (adjusted Rand index 0.001)。 - bf16 評価で fp32 から 74% の token が再割当される不安定性を指摘。 - この自由度を逆手に取り、未見 5 形状カテゴリで PMv との representational similarity 0.52 を達成。released/no-prior tokenizer は 0.20-0.26、random kinematic encoder の 95 パーセンタイルは 0.42。

3. 技術・手法の肝は?

- Moto の latent motion tokenizer の code assignment に、PMv 記録の表現幾何を straight-through similarity loss で課す。 - reconstruction objective と並行して robot video 上で学習。 - 比較対象として kinematic, language, random の各 target を用い、PMv 以外では転移しないことを確認。 - label-shuffled PMv control も用意。

4. どうやって有効だと検証した?

- 学習に使っていない 5 形状カテゴリで PMv との representational similarity を評価。 - PMv-trained tokenizer 0.52 に対し released/no-prior 0.20-0.26、random kinematic encoder 95th percentile 0.42。 - kinematic/language/random target は -0.17 から -0.03 で転移せず。 - 下流 manipulation test は CALVIN pipeline (Moto の公表結果を再現) 上で、実行前に仕様を規定したと記載。

5. 議論はある?

- 主張を制限する 2 結果: 手選びの kinematic descriptor (stroke の initial direction) が PMv とより良く一致 (0.65)。 - label-shuffled PMv control が 0.41 と高く、単純な shuffle では説明できないが限界。 - 下流 manipulation test の結果は要旨からは不明。

6. 次に読むべき論文は?

- Moto の latent motion tokenizer と公表結果 (CALVIN pipeline)。 - macaque ventral premotor cortex (PMv) の形状描画記録。 - kinematic encoder / language target / random target との比較手法。 - 同分野の定番として latent action 学習や behavior cloning 関連の基礎研究。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Amit Jadhav

分類: cs.RO, cs.LG

原文アブストラクト

Robot policies increasingly act through a small vocabulary of discrete latent actions learned from unlabeled video, yet training leaves open which motion receives which code. We find this choice highly unstable: two independently trained runs of Moto's latent motion tokenizer assign the same robot clips to nearly unrelated codes (adjusted Rand index 0.001), and evaluating one tokenizer in bf16 instead of fp32 reassigns 74% of its tokens. We use this freedom to impose the representational geometry of macaque ventral premotor cortex (PMv), recorded while a monkey drew shapes, on the tokenizer's code assignment, with a straight-through similarity loss trained alongside its reconstruction objective on robot video. In one training run per target, on five shape categories the loss never saw, the PMv-trained tokenizer reaches a representational similarity of 0.52 with PMv, against 0.20-0.26 for released and no-prior tokenizers and 0.42 for the 95th percentile of random kinematic encoders. Kinematic, language, and random targets do not transfer (-0.17 to -0.03). Two results limit the claim: a hand-picked kinematic descriptor, the stroke's initial direction, matches PMv better (0.65), and a label-shuffled PMv control scores 0.41. We specify the downstream manipulation test, on a CALVIN pipeline that reproduces Moto's published results, before running it.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI