画像生成などに用いられる拡散モデル(Diffusion Model)の説明として、最も適切なものはどれか。
- 1データを生成する生成器と、本物か生成物かを見分ける識別器を競わせるように学習し、生成器が識別器を欺けるデータを作れるようにする。
- 2エンコーダが入力を潜在変数の確率分布の平均と分散に変換し、再パラメータ化トリックを用いて、サンプリングを含むモデル全体を誤差逆伝播で学習する。
- 3学習データに少しずつノイズを加えていく過程を考え、その逆にノイズを段階的に取り除く処理をニューラルネットワークに学習させて、純粋なノイズからデータを生成する。
- 4可逆な変換を何層も重ねて単純な分布を複雑なデータ分布に写像し、データの尤度を厳密に計算できるようにする。
正解と解説を見る
正解:3
拡散モデルは、データにガウスノイズを段階的に加える拡散過程と、そのノイズを少しずつ取り除く逆過程から成ります。逆過程を学習したネットワークを繰り返し適用してノイズから画像を生成する仕組みで、Stable Diffusionなどの画像生成AIの基盤になっています。1はGAN、2はVAE、4は正規化フロー(Normalizing Flow)の説明です。主な生成モデルは「敵対的学習=GAN」「潜在変数の分布と再パラメータ化=VAE」「ノイズの付加と除去=拡散モデル」と区別して覚えましょう。
根拠:Ho et al. (2020) "Denoising Diffusion Probabilistic Models"