ATHENA: ロボットデータキュレーションのための高速マルチタスク異種影響関数
ATHENA: Accelerated Multi-Task Heterogeneous Influence Functions for Robot Data Curation
大規模VLAモデルの模倣学習において、各デモの影響を高速に計算する影響関数フレームワークATHENAを提案し、50%のデータで全データ学習と同等以上の性能を達成した。
詳しい要約
1. どんなもの？
2. 先行研究と比べてどこがすごい？
3. 技術・手法の肝は？
4. どうやって有効だと検証した？
5. 議論はある？
6. 次に読むべき論文は？
※ AIが要旨から生成した要約です。正確性は原文をご確認ください。
著者: Tao Xu, Jiaxin Wang, Runhao Zhang, Jiayi Guan, Xianchao Zeng, Weixi Song, Xinyu Zhou, Zhetao Chen, Guang Chen, Yong-Lu Li
分類: cs.RO
原文アブストラクト
In robot imitation learning, influence functions provide a principled approach to quantify each demonstration's effect on robot task outcomes, yet scaling them to billion-parameter Vision-Language-Action (VLA) models is limited by computational and multitask bottlenecks. To this end, we propose ATHENA, an influence function framework tailored for multitask VLA data curation at a billion-parameter scale. Concretely, it leverages the Kronecker structure of linear-layer gradients to reduce projection cost, and approximates dense Hessian inversion with a rank-r Random Truncated Approximation, achieving about a 313.4x speedup in influence computation. Furthermore, ATHENA formulates global and local interactive influence to balance data curation across 50 jointly trained tasks. Extensive evaluations on RoboTwin 2.0 and real-robot deployment, covering 9.34 and 6.90 hours of demonstrations, respectively, show that ATHENA matches or exceeds full-data joint fine-tuning using only 50% of demonstrations in simulation and 66.7% of data across six real-robot tasks. Overall, ATHENA demonstrates its effectiveness for data curation in billion-parameter multitask VLA fine-tuning.
関連論文
- ロングテールな人間データキュレーションのための品質フィルタ監査データキュレーション
- 実際に測定できる多様性：ロボットデータセットのための高速でモデルフリーな多様性指標データキュレーション
- 量より質：データ中心ロボット学習のための影響関数によるデモンストレーションキュレーションデータキュレーション
- ROSER: ロボット学習のスケーラビリティを実現する数ショットロボットシーケンス検索データキュレーション
- Semantic-Drive: オープンボキャブラリ接地とニューロシンボリックVLM合意によるロングテールデータキュレーションの民主化データキュレーション
- OpenGVL：データキュレーションのための視覚的時間進捗ベンチマークデータキュレーション
