日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

HRI/安全性arXiv:2604.05896

人間とロボットの協調における安全性判断の対話型説明フレームワーク

Dialogue based Interactive Explanations for Safety Decisions in Human Robot Collaboration

シェア:XThreadsFacebookLINEはてブBluesky

ロボットの安全判断を人間に説明する対話型フレームワークを提案し、因果・対比・反事実クエリをサポートする。建設ロボットのシナリオで実証した。

詳しい要約

1. どんなもの?

- HRCにおける安全判断を対話で説明する枠組み - 停止やモード切替の理由を労働者に理解可能にする - 制約ベース安全評価と対話を密結合 - 因果・対比・反事実クエリを扱う - 建設ロボティクスで実例提示

2. 先行研究と比べてどこがすごい?

- 従来は安全行動の実行が中心で説明性が不足 - 内部安全制約が労働者に不透明だった - 説明を安全制御の操作インタフェースとして扱う点が新しい - 記録された決定トレースから直接説明を導出 - 認証済み安全パラメータ下で反事実推論を有界に評価

3. 技術・手法の肝は?

- 対話と制約ベース安全評価を同一状態・制約表現で結合 - 決定トレースを記録し説明生成に利用 - Why?/Why not?/What if?クエリに対応 - 反事実推論は固定・認証済み安全パラメータの範囲内で実施 - 安全保証を緩めずに対話的探索を可能に

4. どうやって有効だと検証した?

- 建設ロボティクスシナリオで枠組みを実装 - 構造化された運用トレースを提示 - 制約認識対話が安全介入を明確化する例を示す - 協調的タスク回復を支援することを例示 - 定量的評価は要旨からは不明

5. 議論はある?

- 説明を安全制御への操作インタフェースと見なす設計視点を提示 - 対話的で安全認識型の自律性に向けた議論 - 反事実推論の有界評価が運用保証を維持 - 限界や課題の詳細は要旨からは不明 - 実運用での有効性評価は要旨からは不明

6. 次に読むべき論文は?

- 要旨で参照/比較されている研究は明示されていない - 関連手法としてconstraint-based safety evaluation - 関連手法としてcounterfactual reasoning - 関連手法としてexplainable AI (XAI) in HRC - 同分野の定番としてhuman-robot collaboration safety

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yifan Xu, Xiao Zhan, Akilu Yunusa Kaltungo, Ming Shan Ng, Tsukasa Ishizawa, Kota Fujimoto, Clara Cheung

分類: cs.RO, cs.HC

原文アブストラクト

As robots increasingly operate in shared, safety critical environments, acting safely is no longer sufficient robots must also make their safety decisions intelligible to human collaborators. In human robot collaboration (HRC), behaviours such as stopping or switching modes are often triggered by internal safety constraints that remain opaque to nearby workers. We present a dialogue based framework for interactive explanation of safety decisions in HRC. The approach tightly couples explanation with constraint based safety evaluation, grounding dialogue in the same state and constraint representations that govern behaviour selection. Explanations are derived directly from the recorded decision trace, enabling users to pose causal ("Why?"), contrastive ("Why not?"), and counterfactual ("What if?") queries about safety interventions. Counterfactual reasoning is evaluated in a bounded manner under fixed, certified safety parameters, ensuring that interactive exploration does not relax operational guarantees. We instantiate the framework in a construction robotics scenario and provide a structured operational trace illustrating how constraint aware dialogue clarifies safety interventions and supports coordinated task recovery. By treating explanation as an operational interface to safety control, this work advances a design perspective for interactive, safety aware autonomy in HRC.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI