日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

記号回帰arXiv:2611.08753

ランダム記号ブースティング:記号回帰への幾何学的アプローチ

Random Symbolic Boosting: A Geometric Approach to Symbolic Regression

シェア:XThreadsFacebookLINEはてブBluesky

ランダムに生成した構文木の集団にブースティングを適用し、世代進化なしで解釈可能な加法記号モデルを構築する手法を提案。予測精度と学習時間のパレート最適点に位置し、実世界データセットで最高性能を達成。

詳しい要約

1. どんなもの?

- 明示的な加法的 symbolic model を構築する手法 Random Symbolic Boosting (RSB) の提案 - ランダム生成した syntax tree の集団に対し boosting を行う - 世代進化(generational evolution)を用いずに symbolic regression を実現する - 回帰と分類の両方を対象とする

2. 先行研究と比べてどこがすごい?

- 従来の symbolic model 構築は generational evolution により計算コストが高い - RSB は世代進化を排除し、ランダム生成した syntax tree 集団への boosting で明示的モデルを構築 - Ordinary Least Squares において boosting が訓練誤差の単調減少を保証 - 標準 symbolic regression benchmark で精度と訓練時間の Pareto-optimal 点上に位置し、real-world データセットで1位 - 200問の大規模 tabular classification benchmark でも競争力のある結果

3. 技術・手法の肝は?

- 高次元空間は十分な線形独立ベクトルで張れるという観察を利用 - syntax tree の意味論(semantics)をベクトルとして直接操作 - ランダム生成した syntax tree 集団上で boosting を行う - Ordinary Least Squares に対し訓練誤差の単調減少を保証 - 予測ベクトルと目標ベクトルの間の角度に基づく適応的 geometric early stopping を導入 - early stopping は問題スケールに依存せず、タスク間の調整が不要

4. どうやって有効だと検証した?

- 標準的な symbolic regression benchmark で評価 - 予測精度と訓練時間の Pareto-optimal 点に位置することを確認 - real-world データセットで1位を達成 - 200問の大規模 tabular classification benchmark で競争力のある結果を確認

5. 議論はある?

- 訓練誤差の単調減少は Ordinary Least Squares について示されている - geometric early stopping はスケール非依存でタスク間調整不要と主張 - 分類ベンチマークでの結果は『競争力がある』との記述にとどまる - 限界や失敗ケースについての詳細は要旨からは不明

6. 次に読むべき論文は?

- 要旨で参照/比較されている個別研究は明示されていない - 関連手法として symbolic regression の定番である genetic programming (GP) 系手法 - 比較対象として generational evolution を用いる既存 symbolic regression 手法 - boosting を用いる回帰・分類手法(例: gradient boosting)との比較検討

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: José R. Ortegaa, José Manuel Muñoz Contreras, Leonardo Trujillo

分類: cs.LG, cs.AI

原文アブストラクト

Symbolic models offer interpretability, but their construction through generational evolution can be computationally expensive. This article presents Random Symbolic Boosting (RSB), a method that constructs explicit additive symbolic models via boosting over populations of randomly generated syntax trees, eliminating the need for generational evolution. The idea combines two observations: high-dimensional spaces can be spanned by enough linearly independent vectors, and the semantics of syntax trees can be directly manipulated as such vectors. It is shown that, for Ordinary Least Squares, the boosting process guarantees a monotonic reduction of the training error for both regression and classification. Furthermore, an adaptive geometric early stopping mechanism is introduced. It is based on the angle between the prediction and target vectors, is independent of the problems scale, and requires no adjustments across tasks. Evaluated on a standard benchmark for symbolic regression, the method is located at the Pareto-optimal point between predictive accuracy and training time, ranking first on the real-world datasets. Additionally, it was tested on a large tabular classification benchmark with 200 problems, achieving competitive results.

関連論文

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI