日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

身体化AI/規範遵守arXiv:2606.27826

NormAct: 暗黙の社会規範への能動的遵守における身体化エージェントのベンチマーク

NormAct: Benchmarking Embodied Agents' Proactive Compliance with Unspoken Social Norms

シェア:XThreadsFacebookLINEはてブBluesky

身体化エージェントが明示されていない社会的規範を能動的に守るかを評価するベンチマークNormActを提案し、MLLMプランナーが目標達成はできても規範遵守は不十分であることを示した。

詳しい要約

1. どんなもの?

- どんなもの? - MLLM駆動のembodied agentsが、目標達成だけでなく、明示されない社会規範を自発的に遵守できるかを評価するベンチマーク。 - 名称はNormAct。 - 550のTongSimシナリオを含む。 - 同一目標に対して、規範遵守または規範違反の行動系列が可能。 - 各シナリオに規範関連の証拠を埋め込み、適用される規則は目標指示から省略。 - 規範的ガイダンスを段階的に増やし、目標とシーンを固定して、遵守行動が自発的に生じるか、プロンプト後にのみ生じるかを検証。

2. 先行研究と比べてどこがすごい?

- 先行研究と比べてどこがすごい? - 既存ベンチマークは明示的な規範判断や制約された行動を評価するが、通常タスク中にシーン関連規範を推論・適用するかはほとんど検証していない。 - NormActは、目標達成と規範遵守を分離し、同一目標で遵守/違反の行動系列を許す点が新しい。 - 規範関連証拠をシーンに埋め込み、規則を目標指示から省略することで、自発的な規範遵守を直接テスト。 - ガイダンスを段階的に増やし、自発的遵守とプロンプト依存の遵守を区別可能。

3. 技術・手法の肝は?

- 技術や手法の肝はどこ? - 550のTongSimシナリオからなるベンチマーク。 - 各シナリオで同一目標に対し、規範遵守または規範違反の行動系列が可能。 - 規範関連の証拠をシーンに埋め込み、適用規則は目標指示に含めない。 - 規範的ガイダンスを段階的に増加(ガイダンスなし、広範なガイダンス、規則特異的ガイダンスなど)。 - 目標とシーンは固定。 - 3つのMLLM plannersで評価。 - 一般規範検索、規範関連シーン記述、生成された規範キューを比較。

4. どうやって有効だと検証した?

- どうやって有効だと検証した? - 3つのMLLM plannersを用いて評価。 - ガイダンスなしでは、目標達成率が規範遵守率を大幅に上回る(67.4% vs 24.7%)。 - 広範なガイダンスと規則特異的ガイダンスの両方が遵守率を改善。 - 固定プランナーでは、一般規範検索よりも規範関連シーン記述や生成規範キューの方が効果的。 - これにより、関連する視覚的証拠の特定が一般規範知識へのアクセスよりも困難であることを示唆。

5. 議論はある?

- 議論はある? - プランナーはプロンプトされればしばしば遵守できるが、自発的には信頼性高く遵守できない。 - 一般規範検索の限界:関連する視覚的証拠の特定が課題。 - 規範関連シーン記述や生成規範キューがより有効。 - 目標達成と規範遵守のギャップが存在。 - 今後のembodied agents開発において、日常目標を追求しつつ明示されない社会規範を自発的に尊重する必要性を示唆。 - 具体的な議論の詳細や限界については要旨からは不明。

6. 次に読むべき論文は?

- 次に読むべき論文は? - 要旨で参照/比較されている研究:明示的な規範判断や制約された行動を評価する既存ベンチマーク。 - 関連手法:MLLM planners、TongSim、一般規範検索、規範関連シーン記述、生成規範キュー。 - 同分野の定番:embodied agents、social norms、multimodal large language models (MLLMs) に関する研究。 - 具体的な論文名は要旨からは不明。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Shiyun Zhao, Xinwei Song, Tianyu Guo, Xiaomeng Gao, Mingyuan Liu, Xu Han, Yuanyuan Zhang, Zhenliang Zhang, Xue Feng, Bo Dai

分類: cs.AI

原文アブストラクト

Embodied agents driven by multimodal large language models (MLLMs) can often complete everyday tasks from visual observations, but goal achievement does not establish whether they proactively respect unstated social norms. Existing benchmarks assess explicit norm judgments or constrained behavior, but rarely test whether agents infer and apply scene-relevant norms during ordinary tasks. We introduce NormAct, a benchmark of 550 TongSim scenarios in which the same goal permits norm-compliant or norm-violating action sequences. Norm-relevant evidence is embedded in each scenario while the applicable rule is omitted from the goal instruction. By progressively increasing normative guidance while holding the goal and scene fixed, NormAct tests whether compliant behavior emerges autonomously or only after prompting. Across three MLLM planners, goal achievement substantially exceeds norm compliance without guidance (67.4% versus 24.7%), while both broad and rule-specific guidance improve compliance, indicating that planners can often comply when prompted but not reliably on their own. With a fixed planner, general-norm retrieval is less effective than norm-relevant scene descriptions or generated norm cues, suggesting that identifying relevant visual evidence is a greater challenge than accessing general norm knowledge. NormAct therefore supports the development of embodied agents that pursue everyday goals while proactively respecting unstated social norms.

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI