ロボットのためのインテリジェントクラウドエッジマルチモーダル対話システム
An Intelligent-Cloud Edge Multimodal Interaction System for Robots
限られた計算資源のロボット向けに、改良したジェスチャ検出器とLLM/VLMエージェントを組み合わせたクラウドエッジ型マルチモーダル対話フレームワークを提案し、複雑環境での対話成功率を実証した。
詳しい要約
1. どんなもの?
2. 先行研究と比べてどこがすごい?
3. 技術・手法の肝は?
4. どうやって有効だと検証した?
5. 議論はある?
6. 次に読むべき論文は?
※ AIが要旨から生成した要約です。正確性は原文をご確認ください。
分類: cs.RO, cs.AI
原文アブストラクト
Robust human-robot interaction in complex environments requires accurate gesture perception, semantic scene understanding, and reliable task planning under limited onboard computing resources. This paper presents a cloud-edge multimodal interaction framework that integrates an enhanced YOLO-based gesture detector with coordinated large language model (LLM) and vision-language model (VLM) agents. The proposed detector, incorporates the Convolutional Block Attention Module (CBAM) into the neck and replaces the baseline bounding-box regression objective with Distance-IoU (DIoU) loss. These modifications improve feature discrimination and localization for small or partially occluded gestures in complex backgrounds. The cloud layer performs gesture detection, scene understanding, multimodal fusion, and action planning, whereas the TonyPi robot locally handles data acquisition, communication, action execution, and feedback. Experiments on a public gesture dataset and a custom dataset show that YOLO-DC achieves precision values of 98.9% and 95.0%, with mAP@0.5 values of 90.7% and 92.7%, respectively. System-level evaluation yields success rates of 95%, 88%, and 82% for single-action, composite-action, and vision-dependent tasks. A 30 participant evaluation yields an overall mean satisfaction score of 3.69 out of 5. These results demonstrate the feasibility of combining refined gesture detection with multimodal agents for resource-constrained robotic interaction.
関連論文
- ヒューマノイド抱擁ロボットにおける指の動きがユーザーに与える影響の研究ヒューマンロボットインタラクション
- ロボット支援頭部固定制御のための人-ロボット相互作用ワークスペースの決定ヒューマンロボットインタラクション
- 人間と相互作用する信頼できるフィジカルAIに向けてヒューマンロボットインタラクション
- HINT-Blimp:マルチモーダルな手がかりからの人間意図推定によるロボット飛行船ヒューマンロボットインタラクション
- MIRA: 身体性を備えたコンパニオン向けリアルタイム全二重ヒューマンロボットインタラクションヒューマンロボットインタラクション
- 個々の特性を考慮した支援型ヒューマンロボットインタラクションにおけるエンゲージメントと侵入性の理解ヒューマンロボットインタラクション
