ロボット評価2026/3/1arXiv:2603.21669

PRM-as-a-Judge：ロボットの細粒度監査のための高密度評価パラダイム

PRM-as-a-Judge: A Dense Evaluation Paradigm for Fine-Grained Robotic Auditing

ロボットの実行品質をバイナリ成功率ではなく、プロセス報酬モデル（PRM）を用いて軌道ビデオから密に評価する新しいパラダイムを提案し、OPD指標体系と診断ベンチマークRoboPulseで検証した。

詳しい要約

1. どんなもの？

- ロボット評価は二値的成功率が主流で、実行過程の進捗・効率・安定性を捉えられない。 - 提案: PRM-as-a-Judge。Process Reward Models (PRMs) を活用し、trajectory videos から観測系列に基づきタスク進捗を推定する密評価パラダイム。 - 中核: OPD (Outcome-Process-Diagnosis) メトリック体系。タスク整合の progress potential で実行品質を形式化。 - 密評価の2公理: macro-consistency (加法的・経路整合的集約) と micro-resolution (微細な物理変化への感度)。 - potential-based PRM judges が密評価の自然な実現例。macro-consistency は誘導スカラーポテンシャルから直接従う。

2. 先行研究と比べてどこがすごい？

- 従来: 二値的成功率が支配的で、実行過程の豊富な情報を単一結果に潰し、進捗・効率・安定性を不明瞭化。 - 提案: 密評価パラダイムにより、trajectory videos から直接ポリシー実行を監査。 - 比較: 軌道訓練された PRM judges は、discriminative similarity-based methods や general-purpose foundation-model judges を micro-resolution で上回る。 - 利点: outcome-only メトリクスでは見えない行動的特徴や失敗モードを明らかに。

3. 技術・手法の肝は？

- Process Reward Models (PRMs) を judge として用い、観測系列からタスク進捗を推定。 - OPD (Outcome-Process-Diagnosis) メトリック体系で実行品質を形式化。 - 密評価の公理: macro-consistency (加法的・経路整合的集約) と micro-resolution (微細物理進化への感度)。 - potential-based PRM judges が自然な実現例。macro-consistency は誘導スカラーポテンシャルから直接導出。 - 詳細なモデル構造や学習手順は要旨からは不明。

4. どうやって有効だと検証した？

- micro-resolution 特性を RoboPulse で実証。RoboPulse は micro-scale progress discrimination を探る診断ベンチマーク。 - 軌道訓練された PRM judges が discriminative similarity-based methods や general-purpose foundation-model judges を上回る。 - PRM-as-a-Judge と OPD メトリック体系を用い、long-horizon tasks で主流ポリシーパラダイムの構造的監査を実施。 - 結果: outcome-only メトリクスでは不可視の行動的特徴と失敗モードを明らかに。

5. 議論はある？

- 密評価の公理 (macro-consistency, micro-resolution) を提示し、potential-based PRM judges が自然な実現例であると議論。 - macro-consistency は誘導スカラーポテンシャルから直接従うと主張。 - 限界や課題、今後の方向性は要旨からは不明。

6. 次に読むべき論文は？

- Process Reward Models (PRMs) に関する研究。 - RoboPulse ベンチマーク。 - discriminative similarity-based methods。 - general-purpose foundation-model judges。 - long-horizon tasks におけるポリシーパラダイム。

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Yuheng Ji, Yuyang Liu, Huajie Tan, Xuchuan Huang, Fanding Huang, Yijie Xu, Cheng Chi, Yuting Zhao, Huaihai Lyu, Peterson Co, Mingyu Cao, Qiongyu Zhang, Zhe Li, Enshen Zhou, Pengwei Wang, Zhongyuan Wang, Shanghang Zhang, Xiaolong Zheng

分類: cs.RO, cs.CV

原文アブストラクト

Current robotic evaluation is still largely dominated by binary success rates, which collapse rich execution processes into a single outcome and obscure critical qualities such as progress, efficiency, and stability. To address this limitation, we propose PRM-as-a-Judge, a dense evaluation paradigm that leverages Process Reward Models (PRMs) to audit policy execution directly from trajectory videos by estimating task progress from observation sequences. Central to this paradigm is the OPD (Outcome-Process-Diagnosis) metric system, which explicitly formalizes execution quality via a task-aligned progress potential. We characterize dense robotic evaluation through two axiomatic properties: macro-consistency, which requires additive and path-consistent aggregation, and micro-resolution, which requires sensitivity to fine-grained physical evolution. Under this formulation, potential-based PRM judges provide a natural instantiation of dense evaluation, with macro-consistency following directly from the induced scalar potential. We empirically validate the micro-resolution property using RoboPulse, a diagnostic benchmark specifically designed for probing micro-scale progress discrimination, where several trajectory-trained PRM judges outperform discriminative similarity-based methods and general-purpose foundation-model judges. Finally, leveraging PRM-as-a-Judge and the OPD metric system, we conduct a structured audit of mainstream policy paradigms across long-horizon tasks, revealing behavioral signatures and failure modes that are invisible to outcome-only metrics.

arXivで原文を読む →arXiv概要ページ

← 論文一覧