FAT (G検定)

1. 定義と概要

FATとは、公平性・説明責任・透明性という3つの原則をまとめた略語で、AIを開発・運用するうえで満たすべきとされる枠組みです。

Fairness（公平性）とは、性別や年齢などの属性によって不当な差が生まれないようにすることを意味します。Accountability（説明責任）とは、AIの判断や運用、問題発生時の対応について、開発者や組織が人に説明できる体制を整えることです。Transparency（透明性）とは、AIの仕組みや利用データ、限界を関係者が理解できる形で示すことを指します。

3つはそれぞれ独立した要件でありながら、いずれかが欠けるとAIへの信頼が揺らぐという意味で、まとめて語られることの多い原則です。

従来、AI開発は判断の精度を高めることが優先され、公平かどうかや結論に至った理由は後回しにされる傾向がありました。しかし、採用や与信、医療など人々の生活に直結する領域でAIが使われるようになるにつれ、判断の公平性や説明責任を欠くことが社会的な課題として意識されるようになっています。

2014年発足のワークショップFAT/ML（機械学習分野の公平性・説明責任・透明性を議論する場）から始まった流れを経て、FATはAI倫理の基本的な枠組みとして学術・実務の双方に定着していきました。

2. 試験対策ポイント

3つの原則は、それぞれ結びつく現象や仕組みとセットで覚えると混乱しにくくなります。

原則	あわせて押さえたい関連語
公平性	アルゴリズムバイアス（原則が損なわれる代表的な現象）
説明責任	AIガバナンス（責任を組織的に担保する仕組み）
透明性	ブラックボックス問題（原則が損なわれる代表的な課題）、説明可能AI・Grad-CAM（対処の方向性）

まず整理しておきたいのは、公平性が性別・年齢・出身地などの属性によって不当な差が生まれないようにすることを求める原則である点です。この原則が損なわれる代表的な現象としてアルゴリズムバイアス（学習データやアルゴリズムの設計の偏りによりAIが不公平な判断を出す現象）が挙げられます。発生原因や事例の分類は別記事に譲り、ここでは公平性という考え方との対応関係を確認するにとどめておきたいところです。

説明責任は、AIの判断や運用、問題発生時の対応について、開発者や組織が人に説明できる体制を整えることを求める原則です。組織的にこの責任を担保する仕組みとして、AIガバナンス（組織がAIのリスクを継続的に管理・監督する仕組み）が位置づけられます。

透明性は、AIの仕組みや利用データ、限界を関係者が理解できる形で示すことを求める原則です。この原則が損なわれる代表的な課題としてブラックボックス問題（AIがなぜその判断をしたのか人間が追跡・説明できない状態）が挙げられます。

対処の方向性としては、説明可能AI（XAI。AIの判断過程を人間が理解・検証できるようにする技術）やGrad-CAM（画像認識AIがどこに着目して判断したかを可視化する手法の一つ）といった可視化手法の研究が進められている段階です。個々の仕組みについては別記事に譲ります。

名称の経緯もあわせてたどっておきたいところです。ACM（米国計算機学会）とは、コンピュータ科学分野の国際的な学会組織です。FAT/MLから発展したこの分野の議論を受けて、ACMは2018年に学際会議ACM FAT*を開始し、2020年の開催以降はACM FAccT（旧ACM FAT*）へと改称しました。この名称は現在も定着しています。

3. 関連概念との比較・相違点

ELSI（科学技術全般が社会に与える倫理的・法的・社会的な影響を検討する枠組み）との最大の違いは、検討対象の範囲にあります。FATはAIシステムが満たすべき技術的・運用的な3原則を指すのに対し、ELSIはAI固有の概念ではなく科学技術全般が社会に与える影響を幅広く検討する枠組みです。

ELSIは1990年開始の米ヒトゲノム解析プロジェクトのELSI研究プログラムに起源を持ち、AIの登場以前から存在する考え方だとされています。両者は検討する範囲の広さが異なるものの、AIを社会に実装する際にはあわせて参照される考え方です。

ACMとの違いは、位置づけそのものにあります。FATが公平性・説明責任・透明性という原則の内容そのものを指すのに対し、ACMはコンピュータ科学分野の国際的な学会組織です。FATをテーマとする学際会議はACM FAccT（旧ACM FAT*）と呼ばれ、ACMがその運営主体にあたります。原則の内容と、それを議論する場を主催する組織という、性質の異なる概念として整理する視点が欠かせません。

4. ビジネス・実務での活用シナリオ

採用・人事の現場では、採用AIの公平性を確保するため、性別や年齢など保護すべき属性を判断材料から除外し、選考結果を属性別に検証・監査する取り組みが進められています。属性による偏りを事後的にも確認できる体制を整えることが、公平な選考プロセスを保つための前提です。

金融の分野では、与信審査（融資や取引の可否を判断するために行う審査）AIが融資を断った場合に、申込者へ理由を開示できる体制を整えることで説明責任を果たす取り組みが進められています。判断の理由を説明できる仕組みがなければ、申込者の納得や再申請の判断材料が失われかねません。

医療の分野では、診断支援AIの判断根拠を医師が確認できる形で示すことで透明性を確保し、患者への治療方針の説明に活かす取り組みが進められています。AIが提示した根拠を医師が理解できなければ、治療方針の妥当性を判断すること自体が医師にとっても容易ではありません。

5. 要点まとめ

• FATはFairness（公平性）・Accountability（説明責任）・Transparency（透明性）の頭文字で、AIを社会に実装するうえで満たすべき3原則をまとめた枠組みです。
• 公平性が損なわれる現象としてアルゴリズムバイアス、透明性が損なわれる課題としてブラックボックス問題が挙げられ、説明責任はAIガバナンスのような組織的な仕組みで担保されます。
• ELSIは科学技術全般の社会的影響を検討する枠組みである点、ACMはFATを議論する学際会議（旧ACM FAT*・現ACM FAccT）を主催する学会組織である点が、FATとの違いとして整理できます。

6. 確認問題