不確実性推定の統合による信頼性の高いLLMベースのロボットプランニング

- LLM を用いたロボットの高レベル計画における不確実性推定手法 CURE (Combined Uncertainty estimation for Reliable Embodied planning) の提案 - LLM の hallucination により過信した誤りや不安全な計画が生成される問題に対処 - 不確実性を epistemic uncertainty と intrinsic uncertainty に分解し、それぞれ別々に推定 - epistemic uncertainty をさらに task clarity と task familiarity に細分化 - kitchen manipulation と tabletop rearrangement の2設定で検証

- 既存の LLM-based planning 向け不確実性推定研究は epistemic と intrinsic の不確実性を十分に区別していなかった - その区別の欠如が不確実性推定の有効性を制限していたと指摘 - CURE は両者を分離推定し、さらに epistemic を task clarity と task familiarity に分割 - 結果として既存手法より実際の実行結果に整合する不確実性推定を実現したと主張

- 不確実性を epistemic uncertainty と intrinsic uncertainty に分解 - epistemic uncertainty を task clarity と task familiarity に細分化して個別評価 - 全体の不確実性評価は random network distillation と multi-layer perceptron regression heads を LLM features で駆動して取得 - 各不確実性要素の推定値を統合する Combined Uncertainty の枠組み - 詳細な統合方法や各 head の構成は要旨からは不明

- kitchen manipulation と tabletop rearrangement の2つの異なる実験設定で検証 - 既存手法と比較して、CURE の不確実性推定が実際の実行結果により近く整合することを示した - 評価指標の詳細やデータセット規模は要旨からは不明 - ベースラインとなる既存手法の具体名は要旨からは不明

- LLM hallucination に起因する過信・不安全計画への対処が動機 - epistemic と intrinsic の区別が不確実性推定の有効性に重要という主張 - task clarity と task familiarity への細分化の妥当性や限界は要旨からは不明 - 2設定以外への汎化性や実ロボットでの安全性評価は要旨からは不明 - 計算コストやリアルタイム性の議論は要旨からは不明

- random network distillation の原論文（LLM features 駆動の不確実性推定の基礎） - LLM-based robot planning における uncertainty estimation の既存研究（比較対象、具体名は要旨からは不明） - LLM hallucination 検出・校正に関する研究 - epistemic uncertainty と aleatoric/intrinsic uncertainty の分解に関するベイズ深層学習の定番研究 - kitchen manipulation や tabletop rearrangement を用いた embodied planning ベンチマーク研究