USPilot:大規模言語モデル強化グラフプランナを備えた身体性ロボット超音波アシスタントシステム
USPilot: An Embodied Robotic Assistant Ultrasound System with Large Language Model Enhanced Graph Planner
大規模言語モデルとグラフニューラルネットワークを組み合わせ、患者の問いかけに応答しながら自律的に超音波検査を実行するロボットアシスタントシステムを提案した。
著者: Mingcong Chen, Siqi Fan, Guanglin Cao, Yun-hui Liu, Hongbin Liu
分類: cs.RO
原文アブストラクト
In the era of Large Language Models (LLMs), embodied artificial intelligence presents transformative opportunities for robotic manipulation tasks. Ultrasound imaging, a widely used and cost-effective medical diagnostic procedure, faces challenges due to the global shortage of professional sonographers. To address this issue, we propose USPilot, an embodied robotic assistant ultrasound system powered by an LLM-based framework to enable autonomous ultrasound acquisition. USPilot is designed to function as a virtual sonographer, capable of responding to patients' ultrasound-related queries and performing ultrasound scans based on user intent. By fine-tuning the LLM, USPilot demonstrates a deep understanding of ultrasound-specific questions and tasks. Furthermore, USPilot incorporates an LLM-enhanced Graph Neural Network (GNN) to manage ultrasound robotic APIs and serve as a task planner. Experimental results show that the LLM-enhanced GNN achieves unprecedented accuracy in task planning on public datasets. Additionally, the system demonstrates significant potential in autonomously understanding and executing ultrasound procedures. These advancements bring us closer to achieving autonomous and potentially unmanned robotic ultrasound systems, addressing critical resource gaps in medical imaging.
関連論文
- 片手補助:単一チャネル内視鏡的粘膜下層剥離術における牽引のための連続体ロボット把持器医療ロボティクス
- 脳血管内治療における臨床医とAIの協働:自律性スペクトラムにわたるロボットナビゲーションのCopilot支援モードに関するin-vitroユーザー研究医療ロボティクス
- 低悪性度脾外傷の止血に向けた監督付き自律双腕吸引・焼灼システム医療ロボティクス
- 言語条件付き行動クローニングによる自律内視鏡ガイダンス医療ロボティクス
- MCP-Net:ロボットガイドワイヤ操作のためのリアルタイム冠動脈認識ネットワークとトポロジー解析医療ロボティクス
- 手術フェーズ認識と視覚追従を統合した自律腹腔鏡制御フレームワーク医療ロボティクス
