データバイアス (G検定)

1. 定義と概要

データバイアスとは、AIモデルの学習データ（AIにパターンを覚えさせるために使う元になるデータ）の中に、母集団（本来知りたい対象全体の集まり）を代表しない偏りが含まれている状態を指す総称です。特定の属性の人物データが不足していたり、過去の社会的な偏見がそのまま数値として記録されていたりする状態も、この総称に含まれます。

代表例のひとつが、職業に関するデータセットで医師のデータが男性に、看護師のデータが女性に偏っているケースです。この場合、AIは「医師は男性、看護師は女性」という関係を学習してしまい、連想バイアス（特定の属性と役割・職業などが結びついてデータに偏りが生じること）と呼ばれる状態におちいります。同じデータセットの中でも、どの属性の情報がどれだけ集まっているかによって、AIの学習結果は大きく揺れ動きます。

従来、AIによる予測や分類の結果は、データに基づく客観的なものとして受け止められがちでした。しかし採用・医療・金融など人の生活に影響する領域でAIの活用が広がるにつれて、学習データに社会に既に存在する偏りが含まれていれば、AIはその偏りをそのまま学習し、時に増幅してしまうことが分かってきています。

こうした経緯があり、データの偏りを種類ごとに見分け、収集・点検の段階で対処する視点は、AI倫理・AIガバナンス（組織がAIのリスクを継続的に管理・監督する仕組み）の土台のひとつです。データそのものの質を点検する視点は、モデルの性能改善とは別の角度から、AIの信頼性を支えています。

2. 試験対策ポイント

まず整理したいのは、データバイアスの下に位置づけられる複数の種類です。代表的なものに、サンプリングバイアス（集めるデータの範囲や方法が偏っていることで生じる偏り）と、観察者バイアス（データを観測・記録する人の主観によって生じる偏り）があります。

そのほか、歴史的バイアス（過去の社会にあった偏見や格差がそのままデータに写し取られること）や、測定バイアス（計測方法やラベル付けの基準のばらつきによって生じる偏り）、特定の属性と役割が結びつく連想バイアスも、この総称に含まれます。測定バイアスはラベリングバイアスとも呼ばれる名称です。

それぞれの発生の詳しい仕組みは個別のテーマとして扱われますが、ここではまず、データバイアスの総称の下に複数の偏りのパターンが並んでいる全体像をつかんでおきたいところです。

データバイアスとアルゴリズムバイアスは、原因と結果の関係として整理できます。偏ったデータで学習すれば出力にも偏りが表れやすくなりますが、データそのものに偏りがなくても、特徴量（AIが判断材料として使うデータの項目）の選び方やモデルの処理方法などアルゴリズム設計側の要因で偏った出力が生じることもあります。

両者は同じ現象を指す言葉ではなく、原因側か結果側かという違いを取り違えやすい点です。データの偏りを取り除いても出力の偏りが残る場合は、アルゴリズム設計側の要因を切り分けて確認する必要があります。

対策の観点としては、特定の属性・条件に偏らないデータ収集と、データセットの構成比を定量的に点検する監査（オーディット、データやAIの偏りがないかを点検・検証すること）が挙げられます。あわせて、公平性（Fairness、特定の属性によって不利な扱いをしないこと）を含むAI倫理・AIガバナンスの枠組みの中で扱われる取り組みも、整理しておきたいところです。

どの段階でどのような偏りが混入しやすいかを把握しておくことは、収集から学習、運用に至る一連の流れを見渡すうえでの土台になります。

3. 関連概念との比較・相違点

アルゴリズムバイアスとの最大の違いは、偏りの発生源がデータ側にあるか、AIの出力側の現象として表れるかにあります。サンプリングバイアスとの最大の違いは、総称と下位分類のどちらにあたるかという点です。混同しやすい3つの語を並べると、次のように整理できます。

用語	何を指すか	位置づけ
データバイアス	学習データそのものに含まれる偏り全般	偏りの原因側にあたる総称語
アルゴリズムバイアス	偏ったデータやモデル設計がAIの判断・出力に表れた現象	偏りが表れた結果側
サンプリングバイアス	データの集め方に起因して生じる偏り	データバイアスの下位分類のひとつ

データバイアスは、アルゴリズムバイアスを引き起こす原因のひとつにあたります。両者を切り分けることで、偏りの原因がデータの収集段階にあるのか、モデルの設計にあるのかが明確になります。

観察者バイアスや歴史的バイアスも、データバイアスの下位分類のひとつです。総称と下位分類の関係を取り違えると、特定の一種類だけを点検して安心してしまい、ほかの種類の偏りを見落とす原因になります。

4. ビジネス・実務での活用シナリオ

医療・ヘルスケアの分野では、胸部X線画像から疾患を検出する診断支援AIの研究で、学習データに含まれる患者の人種・性別構成に偏りがあると、特定の集団で検出精度が下がる傾向が報告されています。データの構成比の偏りが、診断支援の質そのものに直結する例です。診断支援AIを導入する際は、学習データの構成が診療対象とする患者層をどれだけ反映しているかが、精度を左右する要因になります。

採用・人事の分野では、過去の採用実績データを学習した採用支援AIが、応募者データの性別構成の偏りをそのまま反映し、特定の性別の候補者を低く評価する傾向を示した事例が知られています。人材データに含まれる偏りが、選考の公平性に影響する例です。過去の採用実績には当時の社会状況や組織の傾向がそのまま映り込むため、そのデータをどう扱うかが選考プロセス全体の公平性を左右します。

金融・与信の分野では、融資審査AIが過去の融資実績データを学習する際、特定の地域や属性に対する過去の融資判断の偏りをそのまま引き継ぐと、同じ属性の申込者に不利な与信判断が続く可能性があります。データに刻まれた過去をそのまま学習することの危うさを示す例です。過去の判断基準を見直すことなくAIに学習させれば、同じ偏りが形を変えて再生産されることになります。

5. 要点まとめ

• データバイアスとは、学習データに含まれる偏りの総称で、サンプリングバイアス・観察者バイアス・歴史的バイアス・測定バイアス・連想バイアスなど複数の種類に分けて整理される点が特徴です。
• データバイアス（データ側の原因）とアルゴリズムバイアス（AIの出力に表れる現象）は原因と結果の関係にあり、データに偏りがなくてもアルゴリズム設計側の要因で偏りが生じることもあります。
• 対策としては偏らないデータ収集、データセットの監査、公平性を含むAI倫理・AIガバナンスの枠組みが、あわせて整理しておきたい取り組みにあたります。

6. 確認問題