バイアス（バイアス-バリアンス） (G検定)

1. 定義と概要

バイアス（バイアス-バリアンス）とは、モデルの予測値が真の値から系統的にずれる度合いを表す統計的な概念です。モデルの表現力（モデルがデータの複雑なパターンをどれだけ捉えられるかという能力）が不足し、モデルが単純すぎるときに大きくなります。

具体例を挙げると、実際には曲線的な関係を持つデータに対して、直線でしか近似できない単純な線形回帰モデル（データの関係を1本の直線で表すモデル）を当てはめた場合、データの傾向を一定方向にずれた形でしか捉えられません。データがどれだけ増えても、直線という形そのものが持つ限界は残り続けます。

従来、モデルの予測がなぜ外れるのかという問いには、予測誤差の期待値をバイアス・バリアンス（分散）・ノイズの3つに分けて説明する「バイアス-バリアンス分解」（予測誤差の原因を3つの要素に分けて考える枠組み）という考え方が使われてきました。ここでいうノイズとは、データにもともと含まれる、モデルでは取り除けない誤差のことです。バリアンスとは、モデルの予測結果が訓練データの違いによってどれだけばらつくかを表す度合いのことです。

モデルを単純にするとバイアスは大きくなりバリアンスは小さくなり、逆にモデルを複雑にするとバイアスは小さくなりバリアンスは大きくなるという関係があるため、両者をどうバランスさせるかがモデル選定の課題になります。

2. 試験対策ポイント

まず整理しておきたいのは、バイアスが高い状態が未学習に対応するという関係です。未学習（アンダーフィッティング）とは、モデルが単純すぎて訓練データの傾向すら十分に捉えられていない状態を指します。モデルが単純すぎると、訓練データに対する誤差もテストデータに対する誤差も高いまま下がらない状態になります。

バイアスとバリアンス（モデルの予測結果が訓練データの違いによってどれだけばらつくかを表す度合い）はトレードオフの関係にあります。モデルの複雑さを上げるとバイアスは下がる一方でバリアンスは上がりやすく、逆にモデルを単純にするとバイアスは上がる一方でバリアンスは下がりやすいという対応です。モデルの複雑さとの対応をまとめると、次のとおりです。

モデルの複雑さ	バイアス	バリアンス	対応する状態
単純すぎる	大きくなる	小さくなる	未学習
複雑すぎる	小さくなる	大きくなる	過学習

単純ならバイアス、複雑ならバリアンスという組み合わせで覚えておくと、2つの状態を取り違えにくくなります。

予測誤差の期待値はバイアス・バリアンス・ノイズ（データ自体に含まれる、モデルでは説明しきれないランダムな誤差）の3要素に分解できるという関係も試験対策の要点です。ノイズはデータ自体に含まれる誤差であり、モデル側の工夫では減らせません。

トレードオフへの対処法としては、ブースティングとバギングという2つの手法が挙げられます。ブースティングとは、弱い予測器を順番に組み合わせ、前の弱点を補いながら精度を上げていく手法です。バギングとは、複数のモデルを並列に学習させ、それぞれの結果を平均や多数決でまとめる手法です。どちらの誤差を下げる方向に働くかは、次のように対応します。

手法	下げる方向に働く誤差
ブースティング	バイアス
バギング	バリアンス

2つの手法は名前が似ているうえ、効く誤差が互いに逆であるため、対応を取り違えやすい組み合わせです。

3. 関連概念との比較・相違点

バリアンスとの最大の違いは、モデルのどのような欠陥に起因する誤差かという点にあります。バイアスは単純すぎるモデルによって生じる予測の系統的なずれで、未学習の状態に対応します。

バリアンスは複雑すぎるモデルが訓練データのノイズにまで反応することで生じる予測のばらつきで、過学習（オーバーフィッティング。モデルが訓練データに合わせすぎて、新しいデータへの対応力が落ちる状態）の状態に対応します。両者はモデルの複雑さを介したトレードオフの関係にあります。

ノイズとの違いは、誤差を減らす手段が残されているかどうかにあります。バイアスとバリアンスはモデルの単純さ・複雑さの調整によって変えられる誤差であるのに対し、ノイズはデータ自体に含まれる誤差であり、モデルをどう改善しても原理的に減らすことができません。

同じ「バイアス」という語でも、アルゴリズムバイアス（学習データやアルゴリズム設計の偏りにより、AIが特定の属性に不公平な判断をしてしまう現象）とは指す対象が異なる別の概念です。バイアス-バリアンス分解のバイアスは予測値と真の値の系統的なずれを表す統計的な概念であるのに対し、アルゴリズムバイアスは特定の属性・集団に不公平な判断結果が生じるAI倫理上の現象を指します。公平性が問題になる文脈で使われる語であり、モデルの単純さ・複雑さの話とは切り分けて理解する語です。

また、ニューラルネットワークの各ニューロンに加算される定数パラメータ（重みとセットで使われる数式上の要素）を指す「バイアス項」とも別の概念です。バイアス-バリアンス分解のバイアスはモデル全体の予測が真の値からどれだけ系統的にずれるかを表す指標であるのに対し、バイアス項はモデル内部の計算に使われる個々のパラメータであり、指している階層が異なります。

4. ビジネス・実務での活用シナリオ

小売業の需要予測では、季節変動や特売の影響を無視した単純すぎるモデルで需要予測を行うと、実際の売れ行きから一定方向にずれた予測を出し続ける状態になります。これは、欠品や過剰在庫の慢性化につながる、バイアスの高いモデルが実務に与える典型的な影響です。

金融業の与信審査では、審査モデルを過度に単純化すると、特定の属性を持つ申込者の返済確率を一律に高く、あるいは低く見積もる系統的なずれが生じ、審査結果の精度に影響します。モデルの複雑さとデータ量のバランスをどう取るかが、審査結果の妥当性を左右する要素になります。

製造業の品質検査では、検査ルールを単純な基準に絞りすぎると複雑な不良パターンを捉えきれず、一定方向の見逃しが生じます。バイアスとバリアンスのバランスを踏まえたモデル選定は、検出精度の向上に直結する要素です。

5. 要点まとめ

• バイアスとは、モデルの予測値が真の値から系統的にずれる度合いを表す統計的な概念で、モデルが単純すぎるときに大きくなり未学習の状態に対応します。
• 予測誤差の期待値はバイアス・バリアンス・ノイズの3要素に分解でき（バイアス-バリアンス分解）、バイアスとバリアンスはモデルの複雑さを介したトレードオフの関係にあります。
• 同じ「バイアス」という語でも、バイアス-バリアンス分解の文脈と、AI倫理におけるアルゴリズムバイアス（公平性の偏り）は指す対象が異なる別の概念です。

6. 確認問題