制限付きボルツマンマシン (G検定)

1. 定義と概要

制限付きボルツマンマシン（RBM）とは、可視層と隠れ層の二層で構成され、層をまたぐ結合だけを持ち同一層内のユニット同士は結合しない、という制約（制限）を課したニューラルネットワークです。全ユニット同士が結合する従来型のネットワークである通常のボルツマンマシンとの違いは層内結合の有無にあり、その詳しい定義や仕組みは別のテーマとして扱われます。

RBMはデータの背後にある確率分布を学習する生成モデル（データの分布そのものを学習し、新しいデータを作り出せるモデル）の一種です。複数のRBMを積み重ねた深層信念ネットワーク（DBN）とは、RBMを何層も積み重ねて作る、より複雑なデータを扱えるネットワークのことで、RBMはその構成要素としても使われます。

従来のボルツマンマシンは、可視層・隠れ層を問わず全ユニット間に結合を持つため、学習に必要な計算（サンプリング。確率分布から値を取り出す処理）が複雑で、収束が難しいという課題を抱えていました。この課題を解消するために層内結合を取り除き、可視層と隠れ層だけがつながる対称二部グラフ（二つのグループに分かれ、グループ内では結合せずグループ間だけがつながる構造）へと単純化したのがRBMです。この構造上の割り切りによって学習は実用段階に進みました。

2006年にヒントンらは、複数のRBMを積み重ねて層ごとに事前学習（本番の学習の前に、あらかじめ大まかな重みなどの値を調整しておく準備段階の学習）する手法を示しました。この成果は、その後のディープラーニングの発展につながる転機として位置づけられています。

2. 試験対策ポイント

まず整理したいのは、RBMの構造上の骨格です。可視層と隠れ層の二層で構成され、結合は層をまたぐものだけに限られ、同一層内のユニット同士は結合しないという三点が、通常のボルツマンマシンと区別する軸になります。

層内結合をなくしたことで、隠れ層の各ユニットはもう一方の層の状態だけを条件に独立して決まり、可視層の各ユニットも同様に独立して決まる、という扱いやすい性質が生まれます。

学習の土台は、データが観測される確率を最大にするように重みを調整する最尤推定（データが最も起こりやすくなるようにモデルを調整する推定方法）です。ただし正確な計算は現実的な時間では終わらないため、近似的な学習アルゴリズムが使われます。

コントラスティブダイバージェンス（CD法）とは、RBMの学習にかかる計算を簡略化して短時間で済ませるための近似的な計算手法のことです。可視層と隠れ層の状態を交互に何度かサンプリングしながら重みを更新する、という工夫が計算量を現実的な範囲に抑える鍵になります。

深層信念ネットワーク（DBN）との関係では、RBMを複数積み重ねて層ごとに教師なしで事前学習します。その後、教師あり学習（正解ラベル付きのデータをもとに入出力の関係を学習する方式）によるファインチューニング（事前学習させたネットワーク全体を、目的の課題に合わせて仕上げに調整する学習）へ進むという流れです。DBN自体の積み上げ方は、本記事では立ち入りません。

用途としては、次元削減（データの特徴を保ったまま情報量を圧縮すること）や協調フィルタリング（多くの利用者の評価データから似た好みの人を見つけ、おすすめを提示する手法）、特徴学習など生成モデルとしての応用があります。同じく事前学習に使われる積層オートエンコーダ（データを圧縮して復元する処理を層ごとに重ねて特徴を学ばせる仕組み）など別方式の手法と混同しないよう、名称と仕組みを結びつけて整理しておきたいところです。

3. 関連概念との比較・相違点

通常のボルツマンマシンとの最大の違いは、層内結合の有無です。結合のあり方と学習のしやすさを並べると、次のように整理できます。

観点	通常のボルツマンマシン	制限付きボルツマンマシン
層内の結合	可視層・隠れ層のどちらの内部にもある	持たない
層をまたぐ結合	ある	ある（結合はこれだけ）
学習のしやすさ	サンプリングが複雑で収束が難しい	各ユニットが独立に決まり手間が軽い

この違いによって、同じ層のユニット状態がもう一方の層の状態だけを条件に独立して決まるようになり、学習にかかるサンプリングの手間が大きく軽減されます。これがRBMの実用性を支える要点です。全結合を保ったままの通常のボルツマンマシンでは、この単純化が働かないため、学習が実用段階に進みにくいままでした。

深層信念ネットワーク（DBN）との違いは、扱う範囲の広さです。RBM単体は可視層と隠れ層からなる二層構造の一要素であるのに対し、DBNは複数のRBMを積み重ねた多層のネットワーク全体を指します。RBMが部品、DBNがその部品を組み上げた完成形という関係にあり、名前が似ているために混同されやすい組み合わせです。

4. ビジネス・実務での活用シナリオ

レコメンデーション（EC・動画配信）の分野では、協調フィルタリングの手法としてRBMを用い、利用者の評価パターンから潜在的な嗜好を学習して、おすすめの商品や作品を提示する取り組みが見られます。「Netflix」が主催した推薦精度を競うコンペティションでも、RBMを組み込んだモデルが精度向上に貢献しており、評価データの背後にある確率分布を捉える発想を実務に落とし込んだ例です。

画像・パターン認識の分野では、画像データの次元削減や特徴学習にRBMを用い、後続の分類モデル（データをあらかじめ決めたカテゴリーに振り分けるモデル）へ渡す入力を効率よく抽出する前処理として活用されます。高次元の画素データをそのまま扱うより少ない特徴量（データの特徴を数値で表したもの）で表現できるため、後続の処理にかかる負荷を抑えられる点が実務上の利点です。

研究・教育の分野では、単体で主要な学習手法として使われる場面は近年少なくなったものの、層ごとの事前学習という考え方を確立した手法として、深層学習の発展史を学ぶ題材にあたります。ディープラーニングがどのような経緯で実用化に近づいたかを理解するうえで、RBMの登場は欠かせない一節です。

5. 要点まとめ

• 制限付きボルツマンマシン（RBM）は、可視層と隠れ層の二層からなり、層間のみ結合し層内結合を持たない生成モデルです。層内結合の有無が、通常のボルツマンマシンとの違いにあたります。
• RBMの学習にはコントラスティブダイバージェンス（CD法）が使われ、複数のRBMを積み重ねた深層信念ネットワーク（DBN）の事前学習の構成要素としても位置づけられます。
• 次元削減・協調フィルタリング・特徴学習など生成モデルとしての応用があり、「Netflix」の推薦システム開発などでも活用されました。

6. 確認問題