日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

コード生成arXiv:2603.09951

Python用ニューラルデバッガへの道

Towards a Neural Debugger for Python

シェア:XThreadsFacebookLINEはてブBluesky

大規模言語モデルをPythonの実行トレースで訓練し、ブレークポイント設定やステップ実行などのデバッガ操作を模倣できるニューラルデバッガを提案した。

詳しい要約

1. どんなもの?

- Python プログラムの実行をニューラルに模倣する「neural debugger」を提案。 - 従来の neural interpreter は逐次実行予測のみだが、本手法は debugger の操作(step into/over/out、breakpoint 設定)を条件として実行をモデル化。 - 大規模 LLM の fine-tuning または小規模モデルの事前学習から構築。 - 順方向実行(将来の状態・出力予測)と逆方向実行(過去の状態・入力推論)の両方を扱う。

2. 先行研究と比べてどこがすごい?

- 先行研究(FAIR CodeGen Team et al., 2025)の neural interpreter は全プログラムの行単位予測を行うが、対話的な制御が欠如。 - 本手法は debugger の操作を条件に加えることで、開発者の実際のデバッグ作業に近いインタラクティブな実行モデリングを実現。 - 順方向だけでなく逆方向実行も可能にし、条件付き実行モデリングの枠組みを拡張。

3. 技術・手法の肝は?

- 大規模 LLM を fine-tuning するか、小規模モデルをゼロから事前学習。 - 入力としてソースコード、実行トレース、debugger アクション(step into/over/out、breakpoint)を条件付け。 - 出力として将来の状態・出力(順方向)または過去の状態・入力(逆方向)を予測。 - これにより neural debugger が debugger の振る舞いをエミュレート。

4. どうやって有効だと検証した?

- CruxEval ベンチマークで評価。 - 出力予測タスクと入力予測タスクの両方で強い性能を達成。 - 条件付き実行モデリングが堅牢であることを実証。

5. 議論はある?

- 将来の agentic coding システムにおいて、neural debugger がシミュレートされたデバッグ環境の world model として機能する可能性。 - 実行フィードバックの提供や、エージェントが実際のデバッグツールと対話することを可能にする。 - より強力なコード生成、プログラム理解、自動デバッグの基盤となる。 - 限界や課題については要旨からは不明。

6. 次に読むべき論文は?

- FAIR CodeGen Team et al., 2025(neural interpreter の先行研究) - CruxEval(評価に使用されたベンチマーク) - 関連手法として neural interpreter、LLM によるコード実行予測、agentic coding システム

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Maximilian Beck, Jonas Gehring, Jannik Kossen, Gabriel Synnaeve

分類: cs.LG, cs.AI, cs.SE

原文アブストラクト

Training large language models (LLMs) on Python execution traces grounds them in code execution and enables the line-by-line execution prediction of whole Python programs, effectively turning them into neural interpreters (FAIR CodeGen Team et al., 2025). However, developers rarely execute programs step by step; instead, they use debuggers to stop execution at certain breakpoints and step through relevant portions only while inspecting or modifying program variables. Existing neural interpreter approaches lack such interactive control. To address this limitation, we introduce neural debuggers: language models that emulate traditional debuggers, supporting operations such as stepping into, over, or out of functions, as well as setting breakpoints at specific source lines. We show that neural debuggers -- obtained via fine-tuning large LLMs or pre-training smaller models from scratch -- can reliably model both forward execution (predicting future states and outputs) and inverse execution (inferring prior states or inputs) conditioned on debugger actions. Evaluated on CruxEval, our models achieve strong performance on both output and input prediction tasks, demonstrating robust conditional execution modeling. Our work takes first steps towards future agentic coding systems in which neural debuggers serve as a world model for simulated debugging environments, providing execution feedback or enabling agents to interact with real debugging tools. This capability lays the foundation for more powerful code generation, program understanding, and automated debugging.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

MINISFORUM(ミニPC)

MINISFORUM(ミニPC)の公式広告バナーMINISFORUM公式ストアを見る ↗
PR本紙発行元 EmplifAI