
画像生成AIの進化史⑤制限ボルツマンマシン
前回は、2024 年のノーベル物理学賞を受賞したジェフリー・ヒントンが提案した生成モデルであるボルツマンマシン(Boltzmann Machine)を紹介しました。
ボルツマンマシンは、理論上は任意の確率分布を学習することが可能なモデルですが、実用面では以下のような課題があります。
高次元データでは非効率:扱う状態空間が指数関数的に増加するため、十分なサンプリングに膨大な時間を要する。
計算コストの高さ:学習ステップごとに多くのサンプルが必要となり、計算コストが著しく高くなる。
構造的な制約:全結合型ネットワークであるため、隠れ層の導入や階層的な特徴抽出が困難である。
これらの課題を克服するために開発されたのが、今回紹介する制限ボルツマンマシン(Restricted Boltzmann Machine、RBM)です。
制限ボルツマンマシン(RBM)とは
RBMの起源
RBMの原型は、1986年にポール・スモレンスキー(Paul Smolensky)によって、Harmonium(調和系)という名前で提案されました。これは2層構造のエネルギーベースモデルです。
その後、2002年に、ジェフリー・ヒントンが、Smolenskyのモデルを発展させ、現在の「制限ボルツマンマシン」という名称を与えました。また、学習を効率化するための、新たにコントラスティブ・ダイバージェンス(CD)法を導入しました。
それでは、RBMは一体どのような工夫で上記の問題を克服したのでしょうか?
ボルツマンマシンのおさらい
RBMの解説に入る前に、前回解説したオリジナルのボルツマンマシンの要点をおさらいします。
ボルツマンマシン(BM)は、観測データから学習して「確率分布をモデル化」できる生成モデルです。その基本となる考え方は、「エネルギー」と「確率」を結びつけてデータを表現するというものでした。
エネルギーが低い状態ほど起こりやすい
エネルギーが高い状態ほど起こりにくい
このため、エネルギーベースモデル(Energy-based Model、EBM)とも呼ばれます。また、これは物理学における「エネルギーの最小化」の考え方ともマッチしています。
なお、BMにおける「状態」とは、活性化(0か1。ONかOFF)のパターンです。よって、起こりやすいパターンに対してのエネルギーの値が低くなるようにエネルギーを定義します。
そこで、すべてのノードが相互に結合された全結合型ネットワークにおけるノードの活性化状態をもとにエネルギーの値を次のように計算します。
これによって、観測データによく現れる「パターン」は、エネルギーの値が低く(安定している)と評価されます。
は、ニューロン(ノード)同士の結合の強さを表すパラメータ(重み)です。同時に活性化(ON)しやすいものが、同時に活性化するとでエネルギーが低くなります。
自己結合を除外するため対角線上の重みは0()です。
は、各ニューロンが持つバイアスです。ノード自身の活性化しやすさを表現しており、そのノードが活性化するとでエネルギーが低くなります。
このエネルギーを持ってボルツマン分布による確率を定義します。
この式は、エネルギーの値が小さいパターンほど確率が高くなくなることを表現しています。
なお、この分母をとして、を分配関数と呼びます。
は、総和が1になるように正規化して確率分布としていると考えるとわかりやすいです。ソフトマックスとも似ています。なお、最大エントロピーの原理やラグランジュ未定乗数法を使えば、数学的にボルツマン分布を導出することもできます。
このようにボルツマンマシンは、データ(パターン)の確率分布をエネルギーで説明する理論的にうまく考えられたモデルです。
問題は、どのようにしてやといったパラメータを学習するかです。
ボルツマンマシンの学習の目的は、観測データの分布を再現することです。そのために提案された手法は、「生成データ」と「観測データ」の分布が一致するようにパラメータを更新するというものです。
まず、観測データの分布を次の期待値によって表現します。
これは、異なるノード間での相関の強さを表現しています。は期待値(平均値)を意味します。は観測データ(学習データ)の総数です。とあるのは、番目の観測データを意味します。
次に、モデルを使って個のデータを生成(サンプリング)し、次の期待値を計算します。
この二つの期待値の差によって、重みの値を調節します。
カッコの中身が正ならば、観測データの方が相関が強いので、を増やします。また、カッコの中身が負ならば、観測データの方が相関が弱いので、を減らします。増減の程度は学習率によって決まります。
バイアスも同様に学習されます。
このようにして、「実際に観察されたデータ」と「モデルが生成したデータ」の違いが小さくなるように、パラメータを調節することで、計算されるエネルギーの値も調整されます。これを繰り返すうちに、ボルツマンマシンは徐々にデータの背後に隠れたパターンや構造を確率分布として学習していきます。
しかし、この学習方法はシンプルなようでいて、パラメータの更新ごとにマルコフ連鎖モンテカルロ法(MCMC)の一種であるギブスサンプリングを繰り返して多数のデータを生成する必要があるため、実はかなり時間と手間がかかりました。
この「モデルの期待値」を正確に計算しようとするほど、より多くのサンプルが必要です。また、ノード数(次元)が増えるほど、状態の組み合わせが指数関数的に増大していくため、計算コストが膨大になります。
この問題を解決するために登場したのが、制限ボルツマンマシン(RBM)です。
RBMにおける「制限」の意味
制限ボルツマンマシンは、名前に「制限」(Restricted)とある通り、オリジナルのボルツマンマシンにある制限を設けたものです。
この制限のために「層」(Layer)の概念を導入し、「同じ層内では、ノード同士を接続しない」とします。つまり、「ノード同士の結合は、異なる層間のノード間のみに制限」します。
RBMは2つの層からなるニューラルネットワークです。

可視層(Visible Layer)は、入力データを扱います。
隠れ層(Hidden Layer)は、特徴抽出を担当します。
このような構成により、オリジナルのボルツマンマシンより効率的な学習が可能になります。
オリジナルの全結合型ネットワークでは、すべてのノード間に結合が存在するため、計算量のオーダーはになります。一方で、RBMでは可視層(ノード数)と隠れ層(ノード数)の間にのみ結合が存在するため、計算量はとなります。そのための場合、計算量はBMよりも削減されます。
また、をより小さく設定すると、RBMは次元削減(例えばPCA)と似た効果を持ち、データの特徴を圧縮して学習します。これにより、最も重要な特徴を抽出しやすくなり、過学習が起こりにくくなるというメリットがあります。ただし、 が小さすぎると、モデルが十分な情報を保持できず、観測データのパターンや特徴をうまく捉えられなくなる可能性があります。
ただし、隠れ層の役割は、特徴量抽出なのでデータが複雑な場合など目的によっては計算量が増えてもとすることもあり得ます。

また、RBMにおける効率化は2層構造を利用した「コントラスティブ・ダイバージェンス法」による学習方法によるものであり、隠れ層のノード数を減らすのとは異なります。
コントラスティブ・ダイバージェンス
BMとRBMでは、学習方法の「基本的な考え方」は同じです。どちらも、観測データからの相関に関する期待値とモデルが生成する期待値の差を用いてパラメータ(重みやバイアス)を調整します。
しかし、RBMでは、2層構造により、より効率的なサンプリング方法である「コントラスティブ・ダイバージェンス法」(Contrastive Divergence, CD法)が使えるようになった点が異なります。
ギブスサンプリングを使いますが、より近似的に使用することで計算コストを大幅に削減します。
これについては、後述します。まずは、RBMの簡単な実例をみてみましょう。
scikit-learnによるRBMの使用例
実際にscikit-learnを使い、手書き数字のデータをRBMで学習してみましょう。
Python環境
Python環境として次のようなものを準備します。
mkdir rbm_test
cd rbm_test
# Python環境の構築
python3 -m venv venv
source venv/bin/activate
# 必要なライブラリのインストール
pip install --upgrade pip
pip install scikit-learn jupyter matplotlib matplotlib-fontjaJupyterノートブックを使います。VSCodeなど好みの手段でノートブックを立ち上げてください。
データセットの準備
scikit-learnの手書き数字データセットを読み込みます。
from sklearn import datasets
# Digitsデータの読み込み
digits = datasets.load_digits()
X = digits.data
y = digits.target最初の10個を64次元から8x8の画像として変換して表示してみます。
# 画像として10個表示
import matplotlib.pyplot as plt
fig, axes = plt.subplots(1, 10, figsize=(10, 5))
for i, ax in enumerate(axes.flat):
ax.imshow(X[i].reshape(8, 8), cmap='gray')
ax.set_title(y[i])
ax.axis('off')
plt.show()
一応数字を認識することができます。
ピクセル値の範囲は0から16なので、各ピクセルを0〜1に正規化して利用します。
from sklearn.preprocessing import MinMaxScaler
# データの正規化
scaler = MinMaxScaler()
X = scaler.fit_transform(X)MinMaxScalerがやっていることは数学的には以下になります。
元のデータの範囲は、0から16なので、これはデータを16で割る()と同じことです。
さらに、学習用とテスト用にデータを分割します。
from sklearn.model_selection import train_test_split
# データ分割
X_train, X_test, y_train, y_test = train_test_split(
X, y, test_size=0.2, random_state=42)RBMモデルの構築と学習
制限ボルツマンマシンのモデルを定義します。
from sklearn.neural_network import BernoulliRBM
# RBMを定義
rbm = BernoulliRBM(
n_components=32, # 隠れ層のノード数
learning_rate=0.1,
batch_size=10,
n_iter=20,
random_state=42,
verbose=False,
)n_components:隠れ層のノード数。
Digitsは64次元データ(8x8の画像に相当)なので、その半分の32に設定。learning_rate:学習率は、パラメータ更新の係数。
batch_size:バッチサイズは一度のパラメータ更新で使用するデータの数。
n_iter:学習時に「データセット全体を何回繰り返し学習するか」を決めるパラメータです。これは、ニューラルネットワークにおける エポック(epoch)に相当します。
こうしてみると、一般的なニューラルネットワーク(NN)のパラメータと非常に似ていますが、学習の仕組みは大きく異なり、誤差逆伝播法は使われません。
BMやRBMは、確率的サンプリングを用いて、観測データとモデルの分布を一致させるように学習します。
次に、学習データからの特徴を学びます。
rbm.fit(X_train)いったん学習が終わったら、特徴量を取り出すこともできます。
X_train_feat = rbm.transform(X_train)この二つをまとめて次のように呼び出すこともできます。
X_train_feat = rbm.fit_transform(X_train)最初のデータからの特徴量を表示します。
print(X_train_feat[0])このように、特徴量は32個の値になっています。
[4.81620463e-02 5.41017988e-01 5.00301673e-04 9.14397704e-01
9.19466681e-01 1.45386738e-01 1.86976596e-03 1.62922260e-01
3.07868226e-01 9.89374159e-01 5.58348263e-02 2.06202833e-02
1.04333413e-01 4.31203960e-02 3.26229232e-02 7.32189797e-02
6.82979762e-01 2.93277639e-03 3.31738303e-01 2.59793587e-03
2.15013413e-01 5.06323690e-01 5.29726140e-02 7.46715991e-03
1.73012956e-03 3.05063358e-01 5.12140389e-04 7.20631258e-01
8.40815972e-02 2.34557323e-01 1.63691541e-01 8.88721172e-01]特徴量を他のモデルの入力に利用
この特徴量が実際にデータを反映しているのかを確かめるために、ロジスティック回帰による分類モデルを訓練してみます。
from sklearn.linear_model import LogisticRegression
# ロジスティック回帰モデルの構築と学習
logistic = LogisticRegression()
logistic.fit(X_train_feat, y_train)このロジスティック回帰モデルは、RBMからの特徴量によってどの数字によるものかを判断します。このモデルの性能をテストデータで評価します。
from sklearn import metrics
# 評価
X_test_feat = rbm.transform(X_test)
y_pred = logistic.predict(X_test_feat)
print(f"分類精度: {metrics.accuracy_score(y_test, y_pred):.2%}")結果は以下となりました。
分類精度: 90.83%そこそこのスコアですが、ある程度は特徴を掴んでいるのがわかります。
ちなみに、パイプラインを使うともっとコードがもっと簡単になります。
from sklearn.pipeline import Pipeline
# RBMとロジスティック回帰のパイプライン
classifier = Pipeline([
('rbm', rbm),
('logistic', logistic),
])
# モデル訓練
classifier.fit(X_train, y_train)
# 評価
y_pred = classifier.predict(X_test)
print(f"分類精度: {metrics.accuracy_score(y_test, y_pred):.2%}")結果は同じになります。
RBMによるデータ生成
今度は、データの生成を試してみます。ギブスサンプリングを行うことで、ランダムなデータをもとにRBMが学習したボルツマン分布に従ったデータを生成することができます。
まずは、ランダムなデータを10個用意します。
import numpy as np
# ランダムな入力からサンプルを生成
n_samples = 10
n_features = 64
X_random = np.random.rand(n_samples, n_features)このデータの数値は0から1なので正規化されたデータと同等ですが、その分布はランダムです。
最初のデータを表示してみます。
print(X_random[0])次のように表示されました。64個のランダムな値です。
[0.54217325 0.55325548 0.82729912 0.5886142 0.85235631 0.63861141
0.96244298 0.25644094 0.9807532 0.07136763 0.7432412 0.83019277
0.94726876 0.06679808 0.15688818 0.24995643 0.60490986 0.75842257
0.49969927 0.29083011 0.08453703 0.11205556 0.79723686 0.8215304
0.47860659 0.86082769 0.74692042 0.29529706 0.83649176 0.81371239
0.51993265 0.41897343 0.52382257 0.98953518 0.78874583 0.05783845
0.03354688 0.02080421 0.62190983 0.78931808 0.95957328 0.32322128
0.48932893 0.02444119 0.68209036 0.60343485 0.91889736 0.73174198
0.488059 0.88913563 0.5526878 0.68798658 0.43591865 0.94085762
0.97295431 0.05726547 0.81873126 0.47584306 0.51955004 0.60704408
0.23179573 0.42922528 0.57578808 0.29582333]このようなデータを基に、ギブスサンプリングを複数回行って、学習されたボルツマン分布に従うように収束させます。
# ギブスサンプリングを複数回実行(サンプルを収束させる)
n_repeats = 30
for _ in range(n_repeats):
X_random = rbm.gibbs(X_random)結果を表示します。
import matplotlib.pyplot as plt
import matplotlib_fontja
# 生成結果を可視化
fig, axes = plt.subplots(1, n_samples, figsize=(9, 1))
for i in range(n_samples):
axes[i].imshow(X_random[i].reshape(8, 8), cmap="gray")
axes[i].axis("off")
plt.suptitle("RBMによる生成画像")
plt.show()
これをみると、ほとんど数字に見えません。
RBMと扱われる分布との関係
これは、BernoulliRBM でgibbs関数を呼び出して、ギブスサンプリングを行うと、生成されるデータは 0 か 1 の値のみ(バイナリ)になるからです。つまり、可視層のノードの値がベルヌーイ分布に従うため、確率的に 0 または 1 を出力しています。
しかし、Digits のようなデータは各ピクセルが 0~16 の連続値を持ち、正規化後は 0~1 の値を取るため、BernoulliRBMのギブスサンプリングでは実際の手書き数字のような画像が生成でません。
これは問題というよりも、そもそもギブスサンプリングが 0 か 1 の値をボルツマン分布に従うように生成するためのものだからです。これは学習の際の期待値の計算におけるデータの生成のためのものです。これは、ジェフリー・ヒントンが発案したRBMを忠実に再現していますが、画像生成という観点からは実用的ではありません。
なお、BernoulliRBMの名前にあるBernoulli(ベルヌーイ)は、ベルヌーイ分布から来ています。これは確率で1、確率で0になる分布です。
そこで、RBMの理論には、異なるデータの性質に対応できるように、さまざまな拡張が考案されてきました。
例えば、GB-RBM(Gaussian-Bernoulli RBM)では、可視層のノードが 0 または 1 ではなく、ガウス分布に従う連続値を取ることができます。よって、Digitsデータのような連続値のピクセルを適切に学習・生成することが可能です。
これらの拡張では、可視層のデータの違いに応じて、サンプリング方法を適応させる必要があります。
それでも、RBMの学習で使われるコントラスティブ・ダイバージェンス法(CD法)は、拡張されたRBMでも適応されており、RBMの学習アプローチは可視層のデータの性質に関わらず一貫した手法であると言えます。
次に、CD法の具体的な仕組みを詳しく見ていきましょう。
コントラスティブ・ダイバージェンス
BMにおける期待値の計算
おさらいしたように、オリジナルのボルツマンマシン(BM) は「観測データからの期待値」と「モデルからの生成データの期待値」の差を減らすように確率分布を学習するモデルでした。
BMからデータを簡単にサンプリングできないので、ギブスサンプリングを繰り返し実行することで、ネットワークの状態をモデルが持つ分布に従うように更新していきます。
まず、ネットワークを適当な状態に初期化します。そして、ランダムに変数を選んで、その他の変数の値を条件とした確率(シグモイド関数)によって、の値を確率的に0か1に決めます。
ここで、は以下になります。
は、ネットワーク内の他のすべてのノードとの結合の強さと自身の活性化のしやすさによって決まります。
シグモイド関数をとして簡単に表記すると以下になります。
この条件確率によるサンプリングを何度も繰り返すことでネットワーク全体として、モデルが持つ分布から生成されたようになっていきます。
ただし、全結合型のネットワークであるためたくさんのサンプリングが必要となりました。
RBMの学習ステップ(CD法)
RBMは2層のネットワークなので、隠れ変数の値をサンプリングするには、可視層の状態を条件とします。逆に、隠れ層を条件として可視層の値を予測することになります。
このような計算を繰り返す手法をコントラスティブ・ダイバージェンス法(CD法)と呼び、学習が非常に効率的になります。以下のプロセスに従います。
ステップ1:データのサンプリング
訓練データから一つのデータ点を選択し、これを可視層の初期状態としにコピーします。なお、scikit-learnなどでは、あらかじめシャッフルされたデータセットを使って順番に処理していきます。
ステップ2:ギブスサンプリング
初期の可視層をもとに、隠れ層の状態を確率的に決定します。

隠れ層の各ノードの値を、次の条件付き確率によって決めます。
は可視層と隠れ層のノードにおける双方向の結合の重みです。は隠れ層の各ノードのバイアスです。こうして計算された隠れ層をとなります。
これは、隠れ層の値を可視層の状態を条件として確率的に決めるということです。全結合型のBMにおけるサンプリングとは条件が異なります。
これまでは、ですが、ここからは繰り返しとなるので、とで表現します。
次に、可視層を更新してを計算します。

可視層の各ノードの値を条件付き確率によって決めます。
は、可視層のノードのバイアスです。
先ほどとは逆に、可視層の状態の値を隠れ状態を条件として確率的に決めています。このように可視層と隠れ層が互いを条件として更新しあっています。
さらに、可視層によって、隠れ状態を更新しとします。

この可視層 → 隠れ層 → 再構成可視層 → 隠れ層のサイクルを1回とし、CD-1と表記します。複数回のサイクルを繰り返す場合は、CD-kと表記します。3回繰り返すならば、CD-3となります。
CD-1が一般的に使われ、計算が高速です。kが大きいほどモデルの持つ分布に近づきますが、計算コストが増加します。また、初期のモデルのパラメータはランダムなので、kを大きくしたとしても初めから正確性がますわけもでもありません。
回後には、可視層の状態はになり、隠れ層の状態はになります。
BMでは、ボルツマン分布の期待値を計算するためにたくさんのデータを生成する必要がありましたが、ここでは一つの観測データをもとに回のギブスサンプリングを行うだけです。バッチサイズを使うならバッチの中の各観測データに対して同様の計算を繰り返します。
ステップ3:パラメータ更新
可視層と隠れ層の初期状態(と)と更新された可視層と隠れ層の状態(と)の差に基づいてモデルのパラメータを更新します。
は学習率です。つまり、回の更新によって、観測データと隠れ層との相関より弱くなったらパラメータの値を増加し、逆ならば減少させます。
これがパラメータ更新の1サイクルです。バッチサイズが指定されている場合は、複数の観測データをもとに同様の計算を繰り返し、誤差の平均を使ってパラメータを更新します。
まとめると、RBMは2層構造を持ち、可視層の各ノードと隠れ層の各ノードには双方向の結合があります。また、すべてのノードにはバイアスがあります。これらのパラメータによって、ノードの活性化の性格が規定されています。
パラメータの更新に使われるCD法では、データから可視層 → 隠れ層 → 再構成可視層 → 隠れ層の流れでサンプリングを行います。計算コストを抑えながらもBMよりも良好な結果が得られることが実験的にわかっています。
次回予告
次回は、深層信念ネットワーク(Deep Belief Networks、DBN)を紹介します。
DBNでは、RBMを多層に積み重ねることで、より深い特徴表現が可能になりました。しかし、多層ニューラルネットワークの学習を行うためにいくつかの工夫が必要でした。
お楽しみに!