日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

安全性/失敗想起arXiv:2609.19512

CoreSense: 監査可能なロボット意思決定のための追跡可能な失敗想起と競合認識型信念ゲーティング

CoreSense: Traceable Failure Recall and Conflict-Aware Belief Gating for Auditable Robot Decisions

シェア:XThreadsFacebookLINEはてブBluesky

過去の失敗事例を追跡可能な形で想起し、現在の観測との競合を考慮した信念ゲートで安全性を判定するロボット統合アーキテクチャを提案。危険な続行を0%に抑えつつ、過剰ブロックとのトレードオフを評価した。

詳しい要約

1. どんなもの?

ロボットが過去の失敗を想起する際、想起した証拠が現在も有効か、現在の観測と矛盾しないか、意思決定に十分かを確認できない問題に対処する。CoreSenseは、追跡可能なepisodic evidenceとconflict-aware belief gateを組み合わせ、範囲・出所・時間・矛盾・支持を検査した上で、PROCEED、再観測要求、abstain、escalateを許可する、監査可能なロボットシステム統合アーキテクチャ。

2. 先行研究と比べてどこがすごい?

従来の失敗想起は証拠の有効性や矛盾を確認せずに意思決定へ使われ得る。CoreSenseはbelief gateでscope, provenance, time, contradiction, supportを検査し、unsafe proceedを削減しつつoverblockingとcoverageのトレードオフを明示する。またCockroachDB Cloud-Amazon Bedrockのcloud deployment pathまで検証する点が異なる。

3. 技術・手法の肝は?

核はconflict-aware belief gate。想起したepisodic evidenceに対し、scope, provenance, time, contradiction, supportを確認し、PROCEED、re-observation要求、abstain、escalateを選択する。boundedでauditableなrecommendationを生成し、traceable episodic evidenceと統合する。評価は物理ロボットを指令せず、offline public real-robot data、frozen signal-level simulation、live cloud deployment pathの3層で行う。

4. どうやって有効だと検証した?

CableTrace-120とBotFails-200でbelief gatingがprotocol-defined unsafe proceedsを20%と40%から0%へ削減。disjointly calibrated raw-video policyも0% unsafe proceedだが全nominal episodeをoverblock。ViFailback-BotFails visual detectorは0.778 AUROCだがall-blocking。cycle-disjoint UR3 telemetry for protective stopsは0% unsafe proceed、36.1% overblocking、61.9% coverage。grip-loss transferはnegative result。controlled physical corroborationは3.3%、0%、42.0%、conflict-aware fusionは4.7%、0%、42.8%。20/20 cloud recallsがCockroachDB Cloud-Amaz…

5. 議論はある?

証拠はautonomous recoveryやcertified safetyではなく、auditable integration patternを支持する。unsafe proceed削減と引き換えにoverblockingやcoverage低下が生じ、raw-video policyやvisual detectorはall-blockingになる。grip-loss transferはnegative result。物理ロボットを指令しない評価であり、実機での安全性保証は主張しない。

6. 次に読むべき論文は?

要旨で参照/比較されているCableTrace-120、BotFails-200、ViFailback-BotFails、UR3 telemetry for protective stops、CockroachDB Cloud-Amazon Bedrock deployment path、conflict-aware fusion、grip-loss transferに関する研究。関連手法としてepisodic memory、failure recall、belief gating、visual detector、AUROC評価、overblocking/coverage指標を扱う論文。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Zoe Li

分類: cs.RO, cs.AI

原文アブストラクト

Robots can recall prior failures without knowing whether recalled evidence remains valid, conflicts with current observations, or is sufficient to guide a decision. We present CoreSense, a robot-system integration architecture that combines traceable episodic evidence with a conflict-aware belief gate and bounded, auditable recommendations. The gate checks scope, provenance, time, contradiction, and support before it permits PROCEED, requests re-observation, abstains, or escalates. Evaluation follows three complementary layers without commanding a physical robot: offline public real-robot data, a frozen signal-level simulation, and a live cloud deployment path. On CableTrace-120 and BotFails-200, belief gating reduces protocol-defined unsafe proceeds from 20% and 40% to 0%. A disjointly calibrated raw-video policy also reaches 0% unsafe proceed, but overblocks every nominal episode. On public data, a ViFailback-BotFails visual detector reaches 0.778 AUROC yet remains all-blocking, whereas cycle-disjoint UR3 telemetry for protective stops yields 0% unsafe proceed, 36.1% overblocking, and 61.9% coverage; grip-loss transfer remains a negative result. Controlled physical corroboration yields 3.3%, 0%, and 42.0%, while conflict-aware fusion yields 4.7%, 0%, and 42.8%. Finally, 20/20 cloud recalls validate a CockroachDB Cloud-Amazon Bedrock deployment path. The evidence supports an auditable integration pattern, not autonomous recovery or certified safety.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  3. 3Google DeepMind、ロボット向けAIを発表新製品・発表
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI