Hamed Hassani
University of Pennsylvania
収録論文 7本 ・ フィジカルAI/ロボット学習
VLA安全制御安全・ガードレールLLMロボット安全強化学習/追跡強化学習
※arXiv著者名で収集。同姓同名の別人の論文が含まれる場合があります。
論文
- 不一致度に基づく弱モデルから強モデルへのルーティングVLA2026/10/15
正解ラベルなしで弱いモデルと強いモデルの応答の不一致度を測り、必要なときだけ強いモデルに振り分けるルーティング手法を提案。
- オープンワールドロボットのための文脈的安全推論とグラウンディング安全制御2026/2/1
VLMで視覚から文脈依存の安全規則を推論し、環境に接地させて制御バリア関数で強制するCOREを提案。未知環境でも文脈に適した安全行動を実現する。
- ロボット視覚言語行動モデルへの敵対的攻撃VLA2025/6/1
視覚言語行動モデル(VLA)にLLMのジェイルブレイク攻撃を適用し、ロボットの制御権を奪取できることを示した研究。
- LLM搭載ロボットのための安全ガードレール安全・ガードレール2025/3/1
LLMを組み込んだロボットの安全性を確保するため、安全ルールを環境に接地させ時相論理制約を生成し、計画との衝突を制御合成で解消する二段階ガードレールRoboGuardを提案した。
- LLM制御ロボットのジェイルブレイクLLMロボット安全2024/10/1
LLMで制御されたロボットに対し、悪意あるプロンプトで危険な物理行動を引き出す攻撃手法RoboPAIRを提案し、自動運転・UGV・ロボット犬の3環境で高い攻撃成功率を実証した。
- 部分的に未知な環境での動的ターゲット追跡の学習強化学習/追跡2020/6/1
深層強化学習を用いて、視界内追跡・ナビゲーション・探索を統合した能動的ターゲット追跡ポリシー(ATTN)を提案し、俊敏で異常な動きをするターゲットにも頑健に追従できることを示した。
- 能動的情報獲得のためのQネットワーク学習強化学習2019/10/1
強化学習でモデル不要の能動的情報獲得方策を学習し、マルチターゲット追跡で既存手法と比較した論文。
