Zongjie Li
収録論文 2本 ・ フィジカルAI/ロボット学習
身体性エージェント安全性LLMエージェント安全性
※arXiv著者名で収集。同姓同名の別人の論文が含まれる場合があります。
論文
- 身体性エージェント向けジェイルブレイクガードレールのベンチマーク身体性エージェント安全性2026/10/5
LLM/VLMを用いた身体性エージェントに対するジェイルブレイク攻撃を防ぐガードレールを、防御効果・使いやすさ・効率の3軸で体系的に評価する初の枠組みを提案し、6種のガードレールを比較した。
- AutoSpec: 帰納論理プログラミングによるLLMエージェントの安全ルール進化LLMエージェント安全性2026/6/23
LLMエージェントの安全性を高めるため、専門家が設計したルールをユーザーの安全/不安全アノテーションから自動的に進化させるフレームワークAutoSpecを提案。反例誘導合成と帰納論理プログラミングを用いて、解釈可能なルールを精度と再現率のバランスを保ちながら生成する。
