日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

言語接地arXiv:1805.08329

言語誘導型特徴変換モジュールGFT:身体性エージェントのための言語接地

Guided Feature Transformation (GFT): A Neural Language Grounding Module for Embodied Agents

シェア:XThreadsFacebookLINEはてブBluesky

生の画素・言語コマンド・疎な報酬から端到端で学習できる言語接地モジュールを提案し、文埋め込みを変換行列として視覚特徴を言語誘導で変換することで、言語指示ナビゲーションタスクで最先端を上回った。

著者: Haonan Yu, Xiaochen Lian, Haichao Zhang, Wei Xu

分類: cs.AI, cs.CL, cs.LG, cs.RO

原文アブストラクト

Recently there has been a rising interest in training agents, embodied in virtual environments, to perform language-directed tasks by deep reinforcement learning. In this paper, we propose a simple but effective neural language grounding module for embodied agents that can be trained end to end from scratch taking raw pixels, unstructured linguistic commands, and sparse rewards as the inputs. We model the language grounding process as a language-guided transformation of visual features, where latent sentence embeddings are used as the transformation matrices. In several language-directed navigation tasks that feature challenging partial observability and require simple reasoning, our module significantly outperforms the state of the art. We also release XWorld3D, an easy-to-customize 3D environment that can potentially be modified to evaluate a variety of embodied agents.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI