日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

生成モデルarXiv:2006.11239

ノイズ除去拡散確率モデル

Denoising Diffusion Probabilistic Models

シェア:XThreadsFacebookLINEはてブBluesky
🏛 フィジカルAI 必読論文被引用 34,144回基盤技術(ロボット基盤モデルが依拠)
本論文は、拡散確率モデル(Denoising Diffusion Probabilistic Models, DDPM)を提案した。これは、データに段階的にノイズを加える拡散過程と、その逆過程であるノイズ除去過程を学習することで、データ分布を生成する手法である。従来の生成モデル(GANやVAE)とは異なり、敵対的学習や変分下界の近似に頼らず、単純な目的関数で高品質な画像生成を実現した点が新しい。 仕組みは以下の通りである。まず、拡散過程では、元の画像にガウスノイズを徐々に加え、最終的に完全なノイズへと変換する。この過程は固定されたスケジュールに従い、各ステップでノイズが加わる。逆過程では、ニューラルネットワーク(通常はU-Net)が、与えられたノイズ画像とタイムステップから、元の画像に戻るためのノイズを予測する。学習は、予測されたノイズと実際に加えられたノイズの二乗誤差を最小化することで行われる。生成時には、純粋なノイズから始めて、学習済みの逆過程を繰り返し適用し、徐々にノイズを除去して画像を生成する。 この手法が画期的だった理由は、それまでの生成モデルの課題を解決したからである。GANは学習が不安定でモード崩壊を起こしやすく、VAEは生成画像がぼやける傾向があった。DDPMは、安定した学習が可能で、多様な画像を高品質に生成できることを示した。また、拡散過程と逆過程の理論的な裏付け(変分推論との関連)があり、目的関数が単純であるため実装も容易だった。これにより、生成モデルの分野で大きなブレークスルーとなり、その後の多くの拡散モデル研究の基盤となった。 フィジカルAIへの影響は大きい。DDPMは画像生成に留まらず、ロボットの知覚や制御にも応用されている。例えば、ロボット基盤モデルや視覚言語行動モデル(VLA)において、拡散モデルは行動生成や将来予測に使われる。具体的には、ロボットの行動系列を生成する際に、ノイズから行動を復元する過程として拡散モデルを利用できる。また、シミュレーション環境での画像生成やデータ拡張にも応用され、実世界の多様なシーンを生成することでロボットの学習を支援する。さらに、拡散モデルは不確実性を扱うのに適しており、ロボットの行動計画において複数の候補を生成し、その中から最適な行動を選択するといった使い方も研究されている。このように、DDPMは生成モデルの枠を超え、ロボットの知覚・制御・学習の幅広い領域に影響を与えている。

※ 解説はAIが生成。被引用数はOpenAlex由来(取得できた論文のみ表示)。詳細は原論文をご確認ください。

非平衡熱力学に着想を得た拡散確率モデルで高品質な画像生成を実現し、CIFAR10で最先端のFIDスコア3.17を達成した論文。

著者: Jonathan Ho, Ajay Jain, P. Abbeel

分類: landmark

原文アブストラクト

We present high quality image synthesis results using diffusion probabilistic models, a class of latent variable models inspired by considerations from nonequilibrium thermodynamics. Our best results are obtained by training on a weighted variational bound designed according to a novel connection between diffusion probabilistic models and denoising score matching with Langevin dynamics, and our models naturally admit a progressive lossy decompression scheme that can be interpreted as a generalization of autoregressive decoding. On the unconditional CIFAR10 dataset, we obtain an Inception score of 9.46 and a state-of-the-art FID score of 3.17. On 256x256 LSUN, we obtain sample quality similar to ProgressiveGAN. Our implementation is available at this https URL

関連論文基盤技術(ロボット基盤モデルが依拠)

  1. 1Boston Dynamics、車輪付きAtlasの研究試作機を紹介研究・技術
  2. 2GXOとApptronik、Apolloの物流現場試験を拡大 最大1,000台の展開を構想量産・展開
  3. 3newmoとKDDIが資本業務提携 2028年に堺市で自動運転タクシー商用化目指す提携・買収
  4. 4NVIDIA、CoRLでGR00T 2とIsaac Lab 3.0を発表新製品・発表
  5. 5UC BerkeleyとNVIDIAの研究者、AIエージェントでロボット制御コードを仮想環境で改善研究・技術

PR・アフィリエイト広告

FRONTIER(GPU搭載BTOパソコン)

FRONTIER(GPU搭載BTOパソコン)の公式広告バナーFRONTIERでGPU搭載PCを見る ↗
PR本紙発行元 EmplifAI