モデルの表現力 (G検定)

1. 定義と概要

モデルの表現力（表現能力とも呼ばれます）とは、モデルが入力と出力の間にあるどれだけ複雑な関係性（パターン）を表現し、学習できるかを示す能力です。一般に、パラメータ（モデル内部で学習によって決まる数値）の数が多く、構造が複雑なモデルほど表現力は高いとされています。

たとえば、直線的な関係しか表せない単純な線形回帰（データの関係を1本の直線で近似する手法）は表現力が低いモデルです。一方、層（入力から出力へ処理を重ねる段）やノード（各層で計算を担う一つひとつの単位）を増やした多層のニューラルネットワークは、複雑な曲線状のパターンまで表現できるため表現力が高いモデルにあたります。

従来、モデルの精度を高める発想として、層やパラメータを増やして表現力を上げれば性能が向上するという単純な捉え方がありました。しかし、表現力を上げすぎると訓練データ（モデルを学習させるために使うデータ）の細かなノイズ（データに紛れ込んだ誤差やばらつきなど、本質的でない情報）まで学習してしまいます。その結果、新しいデータへの対応力である汎化性能（学習に使っていない新しいデータに対しても正しく予測できる能力）が損なわれる問題が明らかになりました。

一方で表現力を抑えすぎると、データの傾向そのものを捉えきれません。このため、G検定ではモデルの表現力をデータの複雑さに見合った適切な水準に調整することが論点になります。

2. 試験対策ポイント

まず押さえておきたいのは、モデルの表現力の高低が過学習・未学習とどう結び付くかという関係です。表現力が高すぎる状態は、訓練データに含まれる細かなノイズまで学習してしまい、未知データへの予測性能が下がる過学習（訓練データに合わせすぎて、新しいデータにはうまく対応できなくなる状態）と結び付きます。反対に表現力が低すぎる状態は、訓練データの傾向すら十分に捉えられない未学習（訓練データの特徴すら十分につかめていない状態）に対応します。

未学習への対策としては、モデルの層を増やす、パラメータを増やす、特徴量（予測に使う入力データの特徴を数値化した要素）を増やすといった、表現力を高める方向の対応が試験で扱われます。

表現力とバイアス・バリアンスの対応関係も大切なテーマです。表現力を上げるとバイアス（予測が本来の値からずれる偏り）は小さくなる一方、バリアンス（データが変わるたびに予測結果がばらつく度合い）は大きくなりやすいというトレードオフの関係にあります。

表現力の高低が何と結び付くのかは、次のように一覧で整理できます。

表現力	起こりやすい状態	バイアス	バリアンス	調整の方向
高すぎる	過学習	小さい	大きい	正則化などで働きを抑える
低すぎる	未学習	大きい	小さい	層・パラメータ・特徴量を増やす

表の左右を見比べると、過学習と未学習、そしてバイアスとバリアンスが、いずれも表現力という一つの軸の裏表として並んでいることが見えてきます。

表現力の調整に関わる手法として、正則化も合わせて見ておきたいところです。誤差関数にペナルティ項を加えるL1正則化・L2正則化などの正則化（モデルが複雑になりすぎないように、学習時にペナルティを加えて抑える工夫）は、モデルの構造自体を単純化する手法ではありません。

正則化は、学習の過程でモデルの表現力の働きを人為的に抑えることで、過学習を防ぐ手法として扱われます。過学習・未学習、バイアス・バリアンス、正則化という三つの視点は、いずれも表現力という一つの軸から派生しています。

3. 関連概念との比較・相違点

表現力と混同されやすい三つの概念を、まず位置づけの違いで並べてみます。

概念	位置づけ	表現力との関係
過学習・未学習	釣り合いが崩れたときに現れる状態	表現力がデータに対して過剰か不足かを示す
バイアス・バリアンス	予測誤差を分解して示す指標	表現力の高低が誤差にどう跳ね返るかを表す
正則化	学習時に効かせる調整手法	表現力そのものではなく、その働き方を制御する

過学習・未学習との最大の違いは、概念の位置づけにあります。表現力はモデルが持つ能力の大きさを表す概念であるのに対し、過学習・未学習は表現力とデータの複雑さの釣り合いが崩れたときに現れる結果としての状態という違いがあります。表現力そのものは高低で語れる性質ですが、過学習・未学習はその表現力がデータに対して過剰か不足しているかを示す現象にあたります。

バイアス・バリアンスとの違いは、表現力がモデルの構造的な性質であるのに対し、バイアス・バリアンスは表現力の高低が予測誤差にどう跳ね返るかを分解して示す指標であるという点です。表現力という原因があり、その結果がバイアス・バリアンスという指標に表れるという関係で捉えられます。

正則化との違いは、表現力がモデルそのものが持つ能力であるのに対し、正則化は誤差関数にペナルティ項を加えることで、その表現力の働きを学習時に意図的に抑える調整手法であるという点です。表現力を土台としながら、正則化はその力の使われ方を後から制御する仕組みです。

4. ビジネス・実務での活用シナリオ

製造業の異常検知では、表現力が低すぎるモデルは複雑な不良パターンを見逃してしまいます。逆に表現力が高すぎるモデルは、特定の工場やラインに特有のノイズまで学習してしまい、別ラインに展開すると精度が落ちる問題が生じます。データの複雑さに応じて表現力を調整する実務判断が求められる領域です。

需要予測や金融分野の時系列予測では、表現力の高いモデルほど過去の値動きに過剰適合しやすく、将来予測を外しやすいという課題があります。正則化やモデルの選定によって表現力を適切に絞り込み、未知の相場変動にも対応できる設計が求められます。

医療診断支援の分野では、少数の症例データしか集まらない領域で、表現力の高いモデルが持つ過学習のリスクが特に大きな課題となります。比較的表現力を抑えたシンプルなモデルや、正則化を併用した設計が選ばれる背景には、こうした事情があります。

5. 要点まとめ

• モデルの表現力とは、モデルがどれだけ複雑なパターンを表現・学習できるかを示す能力で、パラメータ数や構造の複雑さに応じて高まる関係にあります。
• 表現力が高すぎると過学習、低すぎると未学習が起こりやすく、データの複雑さに見合った水準に調整する必要があります。
• 表現力を上げるとバイアスは下がりバリアンスは上がる関係にあり、正則化は表現力の働きを意図的に抑える手法として扱われます。

6. 確認問題