メインコンテンツへスキップ
見出し画像

画像生成AIの進化史③ガウス混合モデル

    前回は、ガウス分布とエントロピーの関係を紹介しました。

    最大エントロピーの原理から見ると、ガウス分布は平均と分散だけを情報として含みそれ以外の余計なバイアスを持ち込まない分布です。しかし、一つのガウス分布だけでは複雑なデータ分布を説明できません。

    そこで今回紹介するガウス混合モデル (GMM)は、与えられたデータの分布を複数のガウス分布の混合で近似する確率モデルです。比較的シンプルでありながら、より複雑なデータ分布を捉えることができるモデルです。クラスタリングなどに使われますが、学習した確率分布から新しいデータをサンプリングできるため、生成モデルとしても利用が可能です。

    生成モデルとは「観測データからその背後にある分布を学習し、その分布からサンプリングすることで新たなデータを生成できるモデル」です。

    参考:生成モデルとは

    そこで、この記事ではGMMを生成モデルの観点から解説します。

    まず、GMMに関する歴史的な背景を振り返ります。その後に、生成モデルとしてGMMを理論的に捉え直します。そして、最後は実際に簡単な画像生成のコーディングを行なって実感しながら理解を深めていきます。

    GMMの歴史的発展

    ナポリガニの観測データ

    GMMの原型となる混合分布モデルの研究は19世紀末にまで遡ります。ガウス混合モデルが生まれた背景として、MITのオンラインコースの講義ノートに次のように説明されています。

    ガウス分布の混合パラメータを学習する問題は、生物学と進化に興味を持っていた有名な統計学者カール・ピアソン (1894) にまで遡ります。実際、彼の周囲の地域にはナポリガニと呼ばれる特定の種類のカニが生息していました。彼はこの個体群から何千ものサンプルを採取し、各サンプルの物理的特性を測定しました。出現頻度をプロットしたところ、結果として得られた密度関数に驚きました。彼はそれがガウス分布になると予想していましたが、実際には最大値の周りで非対称(対称ではない)でした。図 6.1 を参照してください。彼は、ナポリガニは 1 つの種ではなく 2 つの種であり、観察した密度関数はガウス分布の混合として説明できるのではないかと仮説を立てました。

    The problem of learning the parameters of a mixture of Gaussians dates back to the famous statistician Karl Pearson (1894) who was interested in biology and evolution. In fact, there was a particular species of crab called the Naples crab that inhabited the region around him. He took thousands of samples from this population and measured some physical characteristic of each sample. He plotted the frequency of occurrence, but the resulting density function surprised him. He expected that it would be Gaussian, but in fact it was not even symmetric around its maximum value. See Figure 6.1. He hypothesized that maybe the Naples crab was not one species but rather two, and that the density function he observed could be explained as a mixture of Gaussians.

    MIT OpenCourseWare: Algorithmic Aspects Of Machine Learning(講義ノート第6.1章より)

    統計学者カール・ピアソンは、測定したナポリガニのデータの出現頻度をヒストグラムとしてプロットしましたが、その分布は非対称で単一のガウス分布では説明できませんでした。

    下図はナポリガニの物理的特性の分布(出現頻度)です。

    画像
    MITの講義ノート:図6.1

    青色のヒストグラム(頻度図)が観測データの分布です。この分布は非対称でありガウス分布(正規分布)ではありません。

    そこで、観測データは実際には「異なる2つの個体群に由来しており、それぞれ異なるガウス分布に従っているのではないか」と考えました。このことから、彼は2つのガウス分布の混合によって観測分布を説明できると考えました。

    2つのガウス分布は赤線で示されています。この2つの分布を混合したものが、緑色の線であり、ヒストグラムをよく近似しています。実際に、この2つの分布はナポリガニの2つの異なる種から来ています。

    この研究は、観測データが複数の分布を要因とするものであることをガウス混合モデルによって示した初期の例です。

    自然現象において単一のガウス分布で近似できるもの多くありますが、観測データが実際にはガウス分布でない場合、そこにはデータ全体の平均と分散で得られる以上の情報が隠れているかもしれません。よって、単一のガウス分布では重要な情報を見落とす可能性があります。

    特に、データの背後に複数の異なる要因があり、それぞれの要因がガウス分布で近似できるならば、ガウス混合モデルを用いることで、より適切な分布の推定が可能になります。

    もちろん、ガウス混合モデルを使うということは、「データがガウス分布の混合で生成されている」という仮定を置くことになります。よって、現実のデータによってはこの仮定が適合しない場合もあります​。これは実際にやってみて実用的であるかどうかを判断したりすることになります。

    期待値最大化法の提案

    このように混合モデルの理論は19世紀末から知られていましたが、当時はパラメータ推定の計算が難しく、広く使われることはありませんでした。

    1977年、Arthur Dempsterらが期待値最大化法(EMアルゴリズム)を体系化し、混合モデルのパラメータ推定を効果的に行う手法として提案しました。これが広く知られるようになり、ガウス混合モデルのように潜在変数を含むモデルでも、EMアルゴリズム(反復的に尤度を最大化する手法)によるパラメータ推定が行われるようになりました。詳しくはこちらの記事を参照してください。

    このブレイクスルーによって、GMMは統計学や機械学習で扱いやすいモデルとなり、1980年代以降様々な分野で活用が進みます。

    GMMは、機械学習の発展の初期の頃から存在し研究されました。例えば、GMMによるクラスタリングや隠れマルコフモデル(HMM)における音声認識や自然言語処理などで用いられました。

    このように、GMMは与えられたデータ集合からその背後にある確率分布を学習します。また、観測データがガウス分布の混合で近似できるということは、そのモデルからサンプリングすれば観測データの分布を反映したデータを生成できることになります。

    つまり、GMMを生成モデルとして理解することが可能です。

    生成モデルとしてのガウス混合モデル

    一次元から始めてGMMによる生成を見ていきましょう。

    1次元GMMによる生成

    GMMについては、こちらで詳しく解説しました。ここでは、今回の記事に必要な部分だけを簡単におさらいします。

    前述した通り、GMMは「複数のガウス分布の混合」でデータ分布を表現する確率モデルです​。例えば、ある動物の体重分布は、メスとオスそれぞれの体重分布の混合と捉えることができます。

    画像
    オスとメスの個体数が等しいとして、2つの確率分布を合成したイメージです。

    合成された分布が「元の半分」に見えるのは、2つの分布を単純に足すと面積が2になってしまうため、それを回避するために重み付けを行っているからです。この際、オスとメスの人口が等しいとしているので、両方とも重みは0.5になります。

    この調整により、合成分布の面積が1(100%)になり、正しい確率密度関数として成立します。

    このように、観測データがいくつかのガウス分布から生成されたと仮定し、各ガウス分布をガウス成分(あるいは混合成分)と呼びます。

    もう少し数学的に捉えてみます。

    例えば、メスの体重が以下のガウス分布に従っているとします。

    N(体重∣体重(メス)の平均,体重(メス)の分散)\mathcal{N}(体重 \mid 体重^{(メス)}の平均, 体重^{(メス)}の分散)

    N\mathcal{N}はガウス分布の確率密度関数です。

    「確率密度」からある範囲の体重が出現する確率を求めるには、その範囲で確率密度を積分する必要があります。

    ∫abN(x∣平均,分散)dx\int_a^b \mathcal{N}( x \mid 平均, 分散) dx

    なので厳密には「確率密度」と「確率」は異なる概念ですが、この記事では、「確率密度」を「確率」と表記します。また、「出現確率」も同じ意味で使います。

    これはメスの体重分布に従った出現確率を教えてくれます。平均体重が最も確率が高く、平均から離れるほど確率は低くなっていきます。

    同様に、オスの体重が以下のガウス分布に従っているとします。

    N(体重∣体重(オス)の平均,体重(オス)の分散)\mathcal{N}(体重 \mid 体重^{(オス)}の平均, 体重^{(オス)}の分散)

    このオスの体重の分布がメスと異なるとすると、全体の体重の分布は2つの頂点(平均)を持つことになります。また、分散も異なるでしょう。

    この二つのガウス成分を混合するために、オスとメスの個体数から比率(重み)を計算するとします。w(メス)=メスの個体数全体の個体数w^{(メス)} = \frac{メスの個体数}{全体の個体数}とw(オス)=オスの個体数全体の個体数w^{(オス)} = \frac{オスの個体数}{全体の個体数}になります。これを混合係数として二つのガウス成分を結合すれば全体の分布になります。

    P(体重)=w(メス)N(体重∣体重(メス)の平均,体重(メス)の分散) +w(オス)N(体重∣体重(オス)の平均,体重(オス)の分散)\begin{align*} P(体重) &= w^{(メス)} \mathcal{N}(体重 \mid 体重^{(メス)}の平均, 体重^{(メス)}の分散)  \\[1ex] &+ w^{(オス)} \mathcal{N}(体重 \mid 体重^{(オス)}の平均, 体重^{(オス)}の分散) \end{align*}

    これで、あるの体重の出現確率が全体の分布から計算できるようになりました。

    なお、混合係数がわかっていない(つまり、メスかオスかの情報がない)場合でも、GMMではEMアルゴリズムによって混合係数が推定されます。よって、混合係数は観測データから直接得られない潜在変数となります。

    このガウス混合モデルからサンプリングすれば、観測データの分布を反映したデータをランダムに生成することになります。ただし、このデータは1次元のデータであり、体重の情報しかありません。

    2次元GMMによる生成

    「体重と体長」の2つの特徴(2次元データ)を扱うことを考えます。

    画像
    オスとメスそれぞれの体重と体長の確率分布が2変数のガウス分布で近似されている様子
    (実際のデータではなく、例えばの話です)

    例えば、メスのガウス成分を次のように表現します。

    N(x∣μ(メス),Σ(メス))\mathcal{N}(\boldsymbol{x}\mid \boldsymbol{\mu}^{(メス)}, \Sigma^{(メス)})

    x\boldsymbol{x}はデータポイントで(体重、体長)を要素として含む2次元ベクトルです。μ(メス){\mu}^{(メス)}は平均ベクトルで、メスの(平均体重、平均体長)を要素とする2次元ベクトルです。

    Σ(メス)\Sigma^{(メス)}は共分散行列であり、2つの特徴量(体重と体長)のそれぞれの分散だけでなく、その間の共分散を含んだ対称行列です。

    Σ(メス)= [ (体重(メス)の分散)(体重(メス)と体長(メス)の共分散) (体重(メス)と体長(メス)の共分散)(体長(メス)の分散) ]\Sigma^{(メス)} =  \small \begin{bmatrix}  \\ (体重^{(メス)}の分散) & (体重^{(メス)}と体長^{(メス)}の共分散) \\[3ex]  (体重^{(メス)}と体長^{(メス)}の共分散) & (体長^{(メス)}の分散) \\  \end{bmatrix}

    体重と体長に相関があるとすると、分布の山の形は円形よりも楕円形になります。

    例えば、体重が増えると身長も増えるので、平均より重い体重を持つデータポイントでは、身長が平均より上になる確率が高くなり、平均より下になる確率は低くなるります。

    よって、共分散行列は分布の形状を決めるともいえます。

    さて、この2次元GMMからサンプリングしたデータは、観測データの分布を反映したデータとして体重と体長のペアをランダムに生成することになります。

    もちろん、GMMはより多次元のデータの分布に拡張することができます。

    多次元GMMによる生成

    データを2次元よりさらに多次元に拡張します。また、これまではメスとオスの2つのガウス成分だけを考えましたが、これもKK個のガウス成分に拡張します。

    数学的には、あるnn次元のデータポイントのx\boldsymbol{x}の確率密度を次のように表現します。

    P(x)=∑k=1Kw(k)N(x∣μ(k),Σ(k))P(\boldsymbol{x}) = \sum\limits_{k=1}^K w^{(k)} \mathcal{N}(\boldsymbol{x} \mid \boldsymbol{\mu}^{(k)}, \Sigma^{(k)})

    これまで「オス」「メス」と書いていたところがk=1k = 1からKKに変わりました。それ以外は同じです。よって、全体でKK個のガウス成分があり、それぞれのガウス成分kkに混合係数w(k)w^{(k)}、平均ベクトルμ(k)\boldsymbol{\mu}^{(k)}、共分散行列Σ(k)\Sigma^{(k)}があります。

    混合係数 w(k)w^{(k)} は、各ガウス成分が全体の分布にどの程度寄与するかを表す確率であり、∑k=1Kw(k)=1\sum\limits_{k=1}^K w^{(k)} = 1 という条件を満たします。

    共分散行列 Σ(k)\Sigma^{(k)} は、データの分布の形状を決める重要なパラメータであり、特に特徴量間の相関関係を考慮する役割を持ちます。前述したように、体重と体長のような相関のあるデータでは、共分散行列の非対角成分が分布の形を決定します。これがnn個の特徴量変数の間の関係へと拡張されたわけです。

    よって、共分散行列Σ(k)\Sigma^{(k)}のサイズはn×nn \times nです。これはnn次元のデータポイントの要素間の分散と共分散を含むからです。ただし、対称行列なので、実際に推定するパラメータ数はn(n+1)2\frac{n(n+1)}{2}となります。

    なお、KKの値は、観測データから明らかでない場合は、あらかじめ何らかの方法で推定したり、異なるKKの値によるGMMが観測データへどれほどよくフィットするのかを評価する必要があります。

    いずれにせよ、各ガウス成分がデータのクラスタ(隠れたグループ)を表し、その加重和で全体のデータ分布を近似することでは次元が何であっても同じです。

    では、実際に多次元のGMMを使った簡単な画像生成を実践してみましょう。

    GMMによる画像生成の実践

    GMMは、データの分布を確率的にモデル化するため、学習した分布から新しいデータをサンプリングできます。

    ここで扱う手書き数字データでは、各ガウス成分が「特定のパターンの画像」に対応するように学習されるため、サンプリングにより「類似した数字」を生成することが可能になります。

    シンプルな画像生成で実験してみましょう。

    GMMでDigitsデータの生成

    Python環境の設定は、こちらで解説したのと同じものを準備してください。

    学習データセットとしては、scikit-learnからの digits を使います。これはMNISTのミニバージョンです。本物のMNISTのサイズは 28x28 ですが、digits は 8x8 とさらに粗いです。

    次のように読み込みます。

    from sklearn.datasets import load_digits
    
    # データセットのロード
    digits = load_digits()
    
    X = digits.data   # 64次元の特徴ベクトル (8x8 画像)
    y = digits.target # 使いません

    なお、8x8 の画像は64の要素を持つ特徴量ベクトルになっています。つまり、フラット化されています。上述の説明におけるn=64n = 64に相当します。

    つまり、手書き数字の画像データセットからの各データポイントx\boldsymbol{x}は、ピクセル値を特徴量とした64次元のデータです。これを与えてGMMにデータ分布を学習させたいわけです。

    また、ラベル(target)が与えられていますが、ここでは使いません。

    次に、GMMの学習を行います。ガウス成分の数は10個(0から9までの数字)だとわかっているのでそれを指定します。

    from sklearn.mixture import GaussianMixture
    
    # GMMの学習:クラス数(10)に合わせてGMMの成分数を指定
    gmm = GaussianMixture(n_components=10, random_state=42)
    gmm.fit(X)

    これで学習(EMアルゴリズム)は完了です。

    こうして得られた混合分布からサンプリングして新たな(擬似的な)手書き数字の画像を生成します。やることは、gmm.sample() に生成したいサンプル数を与えて呼び出すだけです。

    # 新しいサンプルの生成
    n_samples = 20  # 生成する画像数
    samples, k = gmm.sample(n_samples)

    この結果として20個の64次元ベクトルが生成されて samples として返されます。

    なお、k は各サンプルが生成されたガウス成分のインデックスです。つまり、モデルが学習したガウス分布の混合から新しいデータポイントを生成する際に、どの成分が使用されたかを示すものです。

    また、k のデータ型は整数のNumPy配列です。よって、0から9のガウス成分のインデックス値を20個含んでいます。

    上述の数式の説明に当てはめるとk=1k = 1からk=Kk = K(10)に相当しますが、Pythonはゼロベースのインデックスを使うので0から9の値になります。

    なお、k は予測されたラベルとは異なります。予測されたラベルを取得するには、predictメソッドを使用します。

    では、結果を表示しましょう。

    import matplotlib.pyplot as plt
    import matplotlib_fontja
    
    
    # 生成画像の表示
    fig, axes = plt.subplots(1, n_samples, figsize=(5, 1))
    for i, ax in enumerate(axes.flat):
        ax.imshow(samples[i].reshape(8, 8), cmap='gray')
        ax.axis('off')
    plt.suptitle('GMM による手書き数字の生成')
    plt.show()
    画像

    ここでは、生成した64次元ベクトルを8x8に再構成して表示しています。

    画像が粗すぎて何の数字なのかよくわからないくなるので小さく表示しています。微妙なものも含まれますが、明確に数字だと読み取れるものが多くあります。

    なぜ画像が生成できるのか

    画像のデータを学習するのに、10個のガウス成分を使うことを指定しています。ただし、どの画像がどの数字なのかは与えられません。ここでGMMが行なっているのは、10セットのパラメータ(混合係数、平均ベクトル、共分散行列)をEMアルゴリズムで推定することです。

    なお、各ガウス成分の平均ベクトルは、その成分における代表的な(平均的な)画像を意味します。一つの画像は64個の要素を持つベクトルであり、各要素の平均値から成るベクトルが平均ベクトルだからです。

    各成分の平均ベクトルを表示してみます。

    # 平均ベクトルの取得
    means = gmm.means_
    
    # 平均ベクトルの可視化
    fig, axes = plt.subplots(2, 5, figsize=(10, 4))
    for i, ax in enumerate(axes.flat):
        ax.imshow(means[i].reshape(8, 8), cmap='gray')
        ax.axis('off')
        ax.set_title(f'k={i}')
    plt.suptitle('GMM による手書き数字の平均ベクトル')
    plt.show()
    画像

    kkの値はガウス成分のインデックスです。実際の数字とは関係がありません。これを見る限りGMMは数字の形を10個にそれなりにうまく分けているのがわかります。先ほど生成した20個の数字画像と比べてみます。

    画像

    同じkkが対応しているのがわかります。例えば、k=3k=3が数字の2の画像に対応しているのがわかります。なお、kkの値が順番になっているのは、GMMがサンプリングするときに各ガウス成分からサンプリングする数を決めてから、あとは成分の順番通りにサンプルを生成するからです。

    繰り返しますが、GMM自体はこれを数字として認識していません。単に、ピクセルごとの濃淡だけでグループ化しています。

    ちなみに、上画像の表示は以下のように行いました。

    # 生成画像の表示(kも表示)
    fig, axes = plt.subplots(4, n_samples//4, figsize=(10, 8))
    for i, ax in enumerate(axes.flat):
        ax.imshow(samples[i].reshape(8, 8), cmap='gray')
        ax.text(0.6, 1.05, f'k={k[i]}', ha='right', va='bottom', transform=ax.transAxes)
        ax.axis('off')
    plt.suptitle('GMM による手書き数字の生成(k: ガウス成分のインデックス)')
    plt.show()

    バリエーションはどこから

    さて、生成された画像は平均画像(平均ベクトル)から異なっており、同じガウス成分でも(同じkkでも)形や濃淡にバリエーションがあります。

    これは共分散行列から来ています。まず、共分散行列の対角線上にあるのは、各ピクセル値の分散であり、サンプリングするたびにどの程度平均からズレた値が出やすいのかの示しています。また、非対角線上にある共分散から異なる要素の値がどのような関係を維持して変化しやすいのかを示しています。

    共分散があるため、数字が斜めに傾いたりしても、ある程度は形を維持して生成されるというわけです。これが各ピクセルが独立に変化していたら、いくら平均ベクトルがよく近似できていたとしても、まともな数字が生成される可能性はほぼないでしょう。

    GMMによる生成の問題点

    GMMは生成モデルとして以下のような問題を抱えています。

    混合係数の推定問題

    GMMでは混合係数によって各成分の影響度が変わってきます。そこで、上記の実験でどのくらい混合係数が正しく予測されたのかをみていきましょう。

    まず、Digits のデータセット内の各数字の個数を確認します。

    import numpy as np
    
    # 各数字の出現回数をカウント
    unique_digits, counts = np.unique(y, return_counts=True)
    
    # 棒グラフで表示
    plt.figure(figsize=(8, 4))
    plt.bar(unique_digits, counts)
    plt.xlabel('数字')
    plt.ylabel('出現回数')
    plt.title('各数字の出現回数')
    plt.xticks(unique_digits)
    plt.show()
    画像
    横軸は画像が示す数字の値

    これをみると各数字の個数がほぼ均等なのがわかります。

    では、各ガウス成分の混合係数を見ていきましょう。

    # ガウス成分の混合係数
    plt.figure(figsize=(8, 4))
    plt.bar(range(10), gmm.weights_)
    plt.xlabel('ガウス成分のインデックス')
    plt.ylabel('混合係数')
    plt.title('ガウス成分の混合係数')
    plt.xticks(range(10))
    plt.show()
    画像

    混合係数は、各ガウス成分の割合を示すので理想的には均等(0.1)になっているべきです。しかし、いくつかバラツキがあります。特にインデックスk=8k=8のガウス成分が抜きん出て割合が高く、インデックスk=6k=6の割合が低いです。

    このような問題は、GMMの学習は特徴量から教師なし学習をするため、データの特徴だけに基づいて成分を区別します。よって、各ガウス成分が必ずしもどれかのラベルに対応するとは限りません。このために上記の問題が生じると考えられます。また、あらかじめ成分数KKが不明で、正しく指定されてない場合は混合係数の推定はより難しくなります。

    この問題をさらに難しくしているのは、GMMによる「ガウス成分の線形結合」では複雑なデータの表現が難しいことです。

    線形結合の表現問題

    もう一度、GMMが計算した平均ベクトルを見て比較します。

    画像

    k=6k=6は数字の3の平均的な画像に見えます。そして、k=8k=8が数字の8の平均的な画像に見えます。しかし、k=8k=8は数字の3の特徴も含んでいるような感じがします。つまり、本来はk=6k=6に属するべき画像がk=8k=8に多く含まれてしまっているようです。

    そこでもう一度生成画像を見てみます。

    画像

    k=6k=6から生成された画像はありません。これは混合係数が低いことから偶然にそうなったと考えられます。また、k=8k=8から生成された画像は3とも8とも明確に区別できないような形をしています。

    これは、おそらく3と8の形状を混合分布でうまく説明できていないが、言われた通りに10個に分けているからだと考えられます。GMMはラベルなしで画像の特徴だけから与えられた個数(10個)のガウス成分に分けなければなりません。

    さらに、画像の特徴をうまく区別できていないのは、GMMはガウス分布の線形結合でデータを表現に限界があるのが一因でしょう。また、平均ベクトルや共分散行列で扱えるのは平均的な関係だけです。よって、それらの統計量が似通っていると(3と8のように)区別が難しくなります。

    よって、GMMによるガウス分布の線形結合による表現には限界があり、深層学習(例:VAE、GAN)のように複雑な特徴抽出や階層的表現はできません。そのため、生成される画像の品質は制限されます。

    これはGMMのクラスタリングでの見られた複雑なデータに対する能力の限界と似ています。

    参考:GMMが失敗するケース

    また、この問題は多変量なるほど悪化します。

    次元の呪い関連問題

    GMMはデータの次元が高くなると性能が著しく低下します。これは、次元nnが増えるとパラメータ数がO(n2)O(n^2)のオーダーで爆発的に増加するからです。いわゆる次元の呪いと呼ばれる問題です。様々な特徴量の組みわせをカバーできるだけのサンプル数が必要となります。

    なお、次元数が増えると、データポイントが空間内でお互いに離れて分布しやすくなるため、ガウス分布の適用が難しくなります。これは一次元のデータで例えると、サンプルが数個しかない状況でガウス分布に当てはめているのとイメージ的には同じことです。2次元だとより多くのサンプルが必要になるのは明白です。さらに高次元ならもっと多くのサンプルがないと十分ではありません。

    よって、次元の呪いによって、学習が困難になり、特に共分散行列の推定が不安定になります。対策としては、PCA(主成分分析)などによる次元削減を行い次元数を減らすことが考えられます。

    局所的な相関の問題

    画像では、各ピクセルが独立しているわけではありません。特に隣接ピクセル間には強い相関があります。しかし、GMMにはこのような画像構造に特有なバイアスを利用できる仕組みがありません。つまり、画像における局所的な相関構造を無視しているのと同じです。

    CNNの畳み込みやVision Transformerのアテンションなど画像の局所的な特徴(エッジや形状)をパターンとして捉える仕組みが学習に有利となります。


    GMMは確率モデルとしては実用的に使われました。特にガウス混合分布による観測データのモデル化の仮定が当てはまる場合、有効なツールとして活用されてきました。

    しかし、上述したように画像のような複雑なデータの生成には限界があることが分かりました。結論として、GMMを用いて画像データの分布を学び、それをもとに自然な画像を生成することは難しいわけです。

    では、より高品質なデータを生成するためには、どのようなアプローチが必要になるのでしょうか?

    考えられるのは「生成されたデータの質を評価し、高品質なものほど高い確率を与えるようにモデルを更新する」ことです。このようなアプローチは、GMMには欠けています。

    次回予告

    次回は、ボルツマン・マシン(Boltzmann Machine)を紹介します。

    このモデルは、確率分布を観測データから直接推定するのではなく、データの「自然さ」をエネルギーという指標によって表現し、より自然なデータほどエネルギーが低くなるように学習します。

    このエネルギーをもとに確率分布を定義するので、エネルギーの低い(より自然な)データほど高い確率を持つように確率分布が最適化されます。その結果として学習された確率分布からサンプリングすることで、新たなデータを生成することができるようになります。

    これは、ジェフリー・ヒントンが 2024 年のノーベル物理学賞を受賞した理由の一つとなり、物理学のエネルギー最小化の原理とも関係しています。

    お楽しみに!

     
     
    「わかりやすく、具体的に」AIとサイエンスの情報を発信中

    あなたへのおすすめ