ノイズ (G検定)

1. 定義と概要

ノイズ（noise）とは、バイアス-バリアンス分解という予測誤差の枠組みにおいて、データそのものに内在し、モデルをどれだけ改善しても取り除くことができない誤差です。既約誤差（irreducible error、減らすことができない誤差という意味です）とも呼ばれます。

具体例としては、センサーの測定誤差（センサーや計測器の性能の限界によって生じる、実際の値とのずれ）、アンケート回答者の気分によって生じる回答のゆれ、天候など制御不能な要因による需要のばらつきなどが挙げられます。こうした要因は、データが生まれる過程そのものに含まれているため、モデル側の工夫だけでは解消できません。

従来、モデルの精度向上はモデルの複雑さやパラメータ調整の観点で語られることが多くありました。しかし予測誤差を理論的に分解すると、モデル側の工夫で調整できる成分と、データに内在しモデルでは動かせない成分に分かれることが分かります。

前者はバイアス（モデルが単純すぎることで生じる、予測と実際の値との系統的なズレ）とバリアンス（学習に使うデータが変わるたびに、予測結果がどれくらい変動するかを表す度合い）と呼ばれ、後者がノイズにあたります。

この整理は、モデルをどれだけ工夫しても誤差がゼロにならない理由を説明する枠組みとして、バイアス-バリアンス分解という形で用いられています。予測誤差をこの3つの視点で捉えることで、モデルの改善だけでは超えられない限界がある理由を体系的に把握できます。

2. 試験対策ポイント

汎化誤差（学習していない未知のデータに対して、モデルの予測がどれだけ外れるかを表す誤差）の期待値は、バイアス・バリアンス・ノイズという3つの成分の和に分解できます。この「バイアス-バリアンス分解」の枠組みは、G検定を理解するうえでの中心的な論点です。

この分解は、汎化誤差の大きさを要素ごとに分けて捉えるための基本的な考え方です。ノイズはこの3要素のうち唯一、モデル側の工夫では減らせない既約誤差にあたる点が重要な論点です。

3つの成分は、誤差の原因も、小さくするための打ち手も異なります。バリアンスの低減に使われる正則化（モデルが複雑になりすぎないよう学習に制約を加える工夫）や特徴量（予測に使う入力データの各項目）の絞り込みは、そのための代表的な対応です。

成分	誤差の原因	主な低減の方法
バイアス	モデルが単純すぎること	モデルを複雑にする、表現力の高い手法に切り替える、有効な特徴量を工夫して追加する
バリアンス	学習データが変わるたびに予測結果がばらつくこと	正則化を強める、特徴量を絞り込む、学習データ量を増やす、モデルを単純化する
ノイズ	データの発生源そのもの	モデル側の工夫では減らせない

ノイズの行にだけ具体的な打ち手が並ばないのは、この誤差がデータの発生源そのものに起因するためです。モデルの選び方やハイパーパラメータ（学習を始める前に人が設定する調整項目）の調整をいくら重ねても減らすことができないという対比が、この表の要点にあたります。

「ノイズ」という語は、2通りの意味で使われます。ひとつはバイアス-バリアンス分解における「既約誤差」という意味です。

もうひとつは、データクレンジング（データに含まれる誤りや不要な情報を取り除いて整える作業）で除去する外れ値（他の大多数のデータから大きくかけ離れた値）や欠損値（記録が抜けている値）、誤入力といった「不要な情報全般」を指す意味です。両者は別の概念であり、混同しやすい組み合わせです。

3. 関連概念との比較・相違点

バイアスとの最大の違いは、原因が「モデルの側」にあるか「データの側」にあるかという点です。バイアスはモデルが単純すぎることで生じる予測のズレであり、モデルの選び方や特徴量の見直しといった工夫で調整できます。これに対しノイズはデータ自体の誤差であり、モデル側の調整では動かすことができません。

バリアンスとの違いも、同じく調整の余地があるかどうかにあります。バリアンスは学習データが変わるたびに予測結果がどれだけばらつくかを表し、学習データ量を増やしたりモデルの複雑さを調整したりすることで低減できます。ノイズは既約誤差であるため、モデルの改善による影響を受けません。

外れ値やデータの汚れとしての「ノイズ」との違いは、除去できるかどうかにあります。データクレンジングで検出・除去できる異常値や不要な情報を指す「ノイズ」と、理論的に除去不能な既約誤差としての「ノイズ」は別の概念です。

前者は前処理の対象であり、除去や補正が可能です。後者は、どれだけ前処理を尽くしても残る測定誤差やランダムな不確実性を指しており、同じ「ノイズ」という言葉でも意味する対象が異なります。

4. ビジネス・実務での活用シナリオ

製造業では、温度センサーや振動センサーの計測値に測定誤差がつきものです。この誤差はモデルをどれだけ改善しても除去できないノイズとして残ります。そのため、許容誤差の範囲をあらかじめ品質基準に織り込んで設計する運用が取られています。この設計は、ノイズという概念を理論だけでなく品質保証の基準に落とし込む一例です。

医療診断支援の分野では、検査値に個人差や体調による日々のばらつきが含まれます。これはノイズにあたり、予測モデルの精度向上だけでは解消できません。複数回の計測や専門家の判断を組み合わせる運用が、この性質を補う形で行われています。こうした運用は、モデルの精度向上とあわせて現場の判断を組み合わせる工夫にあたります。

小売の需要予測では、天候や偶発的な消費者行動による需要変動がノイズ的な性質を持ちます。モデルを複雑化しても取り切れない変動であるため、安全在庫を持つといった運用面での対応と組み合わせる形が取られています。この運用は、モデルの精度だけに頼らずノイズの影響を前提とした在庫戦略にあたります。

5. 要点まとめ

• ノイズとは、データ自体に内在し、モデルの改善では取り除けない誤差（既約誤差）であり、汎化誤差はバイアス・バリアンス・ノイズの3つに分解されます。
• バイアスとバリアンスはモデルの調整で低減できますが、ノイズだけはモデル側の工夫が及ばないという対比が論点になります。
• データクレンジングで除去する外れ値・不要な情報としての「ノイズ」と、理論的に除去不能な既約誤差としての「ノイズ」は、別の意味で使われます。

6. 確認問題