日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

データ収集arXiv:2605.16797

EgoKit: 異種デバイスを統合した低コストな自己中心視点データ収集の実現

EgoKit: Towards Unified Low-Cost Egocentric Data Collection with Heterogeneous Devices

シェア:XThreadsFacebookLINEはてブBluesky

異なるデバイス(スマホ、スマートグラス、XRヘッドセットなど)で統一的な自己中心視点(エゴセントリック)動画と手首視点動画を収集できるツールキットEgoKitを提案した。

詳しい要約

1. どんなもの?

- EgoKitは、ロボット学習・活動理解・embodied AI研究向けのegocentric videoを、異種デバイス間で統一的に低コスト収集するtoolkit。 - Android phone、iPhone、iPad、smart glasses、XR headsetなど6種のhost deviceで同一の記録workflowを提供。 - 全対応デバイスで同じ録画操作とuniform log formatのローカル保存videoを生成。 - XR headsetではhead poseとOpenXR標準26-joint hand trackingをvideo streamに整列して記録。 - 2つのwrist camera、mount、head strap、USB-C hubなどのaccessoryでwrist-view captureを追加可能。

2. 先行研究と比べてどこがすごい?

- 従来は各host deviceごとにSDK・raw camera access policy・外部USB cameraやon-device trackingの制限が異なり、収集がfragmentedだった。 - synchronized ego-viewとwrist-viewの取得は、単一proprietary platformへのcommitか、device間で転用できないone-off rigの構築に依存していた。 - EgoKitは6種のheterogeneous host devicesで同一workflowを実現し、custom hardware fabricationなしでwrist-viewを追加できる点が異なる。 - 単一platform依存やrigの非移植性という既存の制約を緩和する。

3. 技術・手法の肝は?

- 6種のhost deviceに対して同一のegocentric recording workflowをexposeするtoolkitを設計。 - 全デバイスで同じrecording interactionを提示し、uniform log formatでローカル保存videoを生成。 - XR headsetではhead poseとOpenXR-standard 26-joint hand trackingをvideo streamsにalignedしてlog。 - companion accessories(2 wrist cameras with mounts、head strap、USB-C hub)により、対応hostにwrist-view captureを追加。 - 詳細な実装やSDK抽象化の手法は要旨からは不明。

4. どうやって有効だと検証した?

- 要旨からは不明。 - 6種のheterogeneous host devicesで同一workflowが動作することは述べられているが、定量評価やuser studyの有無は記載されていない。

5. 議論はある?

- 要旨からは不明。 - 制限やfailure case、device間の同期精度、長期運用の課題などについての議論は記載されていない。

6. 次に読むべき論文は?

- 要旨で参照/比較されている個別研究は明示されていない。 - 関連手法として、egocentric video collection、robot learning向けdata collection、OpenXR hand tracking、XR headsetによるtracking、wrist cameraによるmanipulation data収集などが挙げられる。 - 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Liuchuan Yu, Erdem Murat, Beichen Wang, Yan Zeng, Tingting Luo, Huizhen Zhou, Shanghao Li, Huining Feng, Zhigen Zhao, Ning Yang, Ke Jing, Yunhao Liu, Ruoya Sheng

分類: cs.CV, cs.RO

原文アブストラクト

Egocentric video is increasingly used as a data source for robot learning, activity understanding, and embodied AI research, but collecting it at scale remains fragmented in practice: each candidate host device, such as an Android phone, iPhone, iPad, smart glasses, or extended reality (XR) headset, exposes a different SDK, a different policy on raw camera access, and different limitations on external USB cameras and on-device tracking. Synchronized ego-view and wrist-view capture is therefore typically obtained by either committing to a single proprietary platform or building one-off rigs that do not transfer across devices. To address this gap, we present EgoKit, a toolkit that exposes the same egocentric recording workflow across six heterogeneous host devices. Across all supported devices, EgoKit presents the same recording interaction and produces locally stored video with a uniform log format; on XR headsets, it additionally logs head pose and OpenXR-standard 26-joint hand tracking aligned to the video streams. The companion accessories, including two wrist cameras with mounts, a head strap, and a USB-C hub, add wrist-view capture to any supported host without custom hardware fabrication. EgoKit is available at \url{https://egokit.chuange.org/}.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI