日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

安全性/実行時監視arXiv:2606.31045

LabGuard: 実験室エージェントのための自然言語ルールを実行時ガードに変換する基盤

LabGuard: Grounding Natural-Language Laboratory Rules into Runtime Guards for Embodied Laboratory Agents

シェア:XThreadsFacebookLINEはてブBluesky

実験室の安全ルールなどの自然言語を実行可能な仕様に変換し、実行時モニタとして適用する安全スイートLabGuardを提案。未見ルールへの汎化や不安全イベント削減効果を実証した。

詳しい要約

1. どんなもの?

- 科学実験を遂行する embodied laboratory agents の安全実行を支援する言語→実行の安全スイート LabGuard を提案。 - 自然言語の実験室ルール(安全規則・マニュアル・プロトコル・SOP)を機械検証可能な runtime constraints に変換し、実行時ガードとして配備する。 - 構成要素は、型付き実行表現 LabGuard-IR、203 の seed rules から拡張した 812 の supervised annotations を提供する LabGuard-Bench、自然言語ルールを LabGuard-IR に写像する LabGuard-Grounder。 - 生成された IR は LabGuard Pipeline が runtime monitors にコンパイルし、controller boundary で適用する。

2. 先行研究と比べてどこがすごい?

- 既存の安全手法は、実験室の自然言語(安全規則・マニュアル・プロトコル・SOP)を機械検証可能な runtime constraints へ変換する中間ステップをしばしば見落としている。 - LabGuard はこの言語→実行のギャップを埋める言語→実行安全スイートとして、自然言語ルールを実行可能仕様に接地し runtime guards として配備する点が新しい。 - 実験では未見の実験室ルール源に汎化し、79.4 の task-scope F1 を達成。 - monitor compilation 後、unsafe events を 39.5% から 23.8% に削減。 - LabUtopia では runtime monitors が ACT と統合し、介入を 0.5% 未満に抑えつつ task success を維持。

3. 技術・手法の肝は?

- LabGuard-IR: 自然言語ルールを写像するための型付き実行表現を定義。 - LabGuard-Bench: 203 の seed laboratory rules から拡張した 812 の supervised annotations を提供。 - LabGuard-Grounder: 自然言語の実験室ルールを LabGuard-IR に写像するコンポーネント。 - LabGuard Pipeline: 得られた IR インスタンスを runtime monitors にコンパイルし、controller boundary で適用する。 - これにより自然言語ルールが実行時チェック可能な制約として機能する。

4. どうやって有効だと検証した?

- 実験により、LabGuard が未見の実験室ルール源に汎化することを示した。 - task-scope F1 79.4 を達成。 - monitor compilation 後、unsafe events が 39.5% から 23.8% に減少。 - LabUtopia において runtime monitors を ACT と統合し、介入率を 0.5% 未満に保ちながら task success を維持することを確認。

5. 議論はある?

- 要旨からは、LabGuard の限界や失敗事例、計算コスト、スケーラビリティ、他の安全手法との比較に関する議論は明示されていない。 - 実験結果として汎化性能、F1、unsafe events 削減、介入率と task success の維持が報告されている。 - 議論の詳細は要旨からは不明。

6. 次に読むべき論文は?

- 要旨で参照・比較されている具体的な先行研究は明示されていない。 - 関連手法として、embodied laboratory agents、runtime verification、natural language to executable specifications、safety guards、LabUtopia、ACT が挙げられる。 - 同分野の定番として、embodied AI の安全制約学習や runtime monitoring に関する研究を次に読むべき。 - 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Jingpu Yang, Fengxian Ji, Zhengzhao Lai, Zhexuan Cui, Guangxian Ouyang, Qian Jiang, Fan Zhang, Min Peng, Qianqian Xie, Preslav Nakov, Zhuohan Xie

分類: cs.AI

原文アブストラクト

Scientific embodied agents are increasingly capable of carrying out laboratory procedures, but executing these procedures safely in dynamic laboratory environments remains challenging. Current safety approaches often overlook the intermediate step of transforming laboratory natural language, including safety rules, manuals, protocols, and standard operating procedures, into machine-checkable runtime constraints. We introduce LabGuard (Laboratory Guard), a language-to-execution safety suite that grounds natural-language laboratory rules into executable specifications and deploys them as runtime guards. LabGuard includes three core components: LabGuard-IR, which defines a typed executable representation; LabGuard-Bench, which provides 812 supervised annotations expanded from 203 seed laboratory rules; and LabGuard-Grounder, which maps natural-language laboratory rules into LabGuard-IR. The resulting IR instances are handled by the LabGuard Pipeline, which compiles them into runtime monitors and applies them at the controller boundary. Experiments show that LabGuard generalizes to unseen laboratory-rule sources, achieves 79.4 task-scope F1, and reduces unsafe events from 39.5% to 23.8% after monitor compilation. In LabUtopia, its runtime monitors integrate with ACT, keeping interventions below 0.5% while preserving task success.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI