XAI (G検定)

1. 定義と概要

XAIとは、AIモデルがどのような根拠にもとづいて予測や判断を下したのかを、人が理解できる形で示す技術・研究分野の総称です。画像診断支援AIが病変の疑いがある領域をハイライト表示して根拠を示す例や、与信審査（お金を貸せるかどうかを判定する審査）AIが判断に影響した要因を数値で示す例が、代表的な取り組みとして挙げられます。

従来のAI活用では、決定木（質問を枝分かれさせながら結論にたどり着く、図解しやすい予測モデル）や線形回帰（それぞれの要因の影響度を数式の係数で表す予測手法）が使われてきました。これらはいずれも、仕組みを人が追いやすいホワイトボックスモデル（内部の判断ロジックが人にも見える種類のモデル）にあたります。

しかしディープラーニングが普及して層が深く大規模になるにつれ、ブラックボックス問題が目立つようになりました。医療診断や与信審査、採用選考のように人の不利益に直結しうる、高リスクな用途としてのAI活用が広がるなか、根拠を説明できなければ信頼を確保しづらいという課題が意識されています。

アカウンタビリティ（判断の理由を説明できる責任のこと）という観点からも、XAIという研究分野が発展してきました。AIの活用が生活や仕事の判断に深く関わるようになるほど、根拠を説明できるかどうかが信頼の土台になっています。

この流れを後押ししたのが、米国防高等研究計画局（DARPA）の取り組みです。DARPAは2016年8月に研究提案の募集を公開し、2017年から2021年までの4年間にわたってXAI研究プログラムを実施しました。国の研究機関が数年単位でまとまった期間をかけてXAI研究に取り組んだこと自体が、この分野の重要性を象徴しています。

2. 試験対策ポイント

ブラックボックス問題が生まれる理由は、ディープラーニングの構造そのものです。層が深く、内部で扱うパラメータ（学習によって調整される内部の数値）の数も膨大なため、入力から出力までの計算過程を人間が一つひとつ追うことが難しく、判断根拠を直接たどりにくい構造になっています。この構造上の特徴が、XAIという分野が生まれた出発点です。

あわせて理解しておきたいのが、精度と解釈性（AIの判断理由を人がどれだけ理解できるかの度合い）の関係です。複雑で高精度なモデルほど内部構造が読みにくくなりやすく、逆に単純で解釈しやすいモデルは精度が控えめになりやすいという、トレードオフの関係にあります。

どちらか一方だけを追い求めればよいわけではなく、扱う課題の性質に応じてバランスを取る発想が求められる点が要点です。極めて高い精度が必要な場面もあれば、根拠の説明が優先される場面もあり、両者の折り合いをどこに置くかが、XAIを考えるうえでの軸です。

代表的な手法の名前と役割としては、LIME（個々の予測結果だけを取り出して、その理由を近似的に示す手法）とSHAP（それぞれの要因が予測にどれだけ影響したかを数値で示す手法）が挙げられます。画像分野ではGrad-CAM（画像のどの部分に注目して判断したかを色分けして示す手法）もあわせて、3手法の名前と役割がセットで整理されます。

3つの違いは、何を説明の対象にするか、どう示すかという2つの軸で並べると見分けやすくなります。

手法	説明の対象	示し方
LIME	個々の予測結果	理由を近似的に示す
SHAP	予測に関わるそれぞれの要因	影響の大きさを数値で示す
Grad-CAM	画像のどの部分を見たか	注目した箇所を色分けで示す

それぞれの仕組みの詳細は別記事に譲り、ここで扱うのは名前と役割の対応関係だけです。

先に触れたDARPAの研究プログラムも、XAIという分野の成り立ちを示す経緯としてあわせて見ておきたいところです。研究プログラムをきっかけに、精度を保ちながら説明可能性を高めるための手法が、学術・実務の両面で積み上げられてきました。

3. 関連概念との比較・相違点

決定木や線形回帰のようなホワイトボックスモデルとの最大の違いは、モデルの構造そのものが人に読めるかどうかという点にあります。決定木は分岐条件、線形回帰は係数がそのまま判断根拠として読める構造になっているのに対し、XAIは複雑なブラックボックスモデルに後付けで説明を与える技術・研究分野です。

モデル自体を単純にして根拠を読めるようにするか、複雑なモデルの外側から根拠を補うかという発想の違いが、両者を分ける軸といえるでしょう。

透明性・公平性という隣接する概念とは軸が異なる点にも触れておきます。3つの概念が何を問うているのかを並べると、重なりと違いがはっきりします。

概念	問われている観点
透明性	モデルや運用プロセス全体をどれだけ開示できるか
公平性	判断結果に偏りが少ないか
説明可能性（XAI）	判断理由を人に分かる形で示せるか

根拠が示せていても、その根拠にもとづく判断が偏っていないとは限らず、逆に判断結果に偏りが少なくても根拠が示せているとは限りません。3者は重なり合う場面もありますが同じものではなく、公平性・透明性を含む枠組みの整理は別のテーマとして扱われます。

4. ビジネス・実務での活用シナリオ

医療分野では、画像診断支援AIがCT・MRI画像上で病変の疑いがある領域をハイライト表示し、医師がAIの判断根拠を確認したうえで最終診断を下す運用が広がっています。根拠が見える形で示されることで、診断の検証や患者への説明がしやすくなる点が利点です。AIの提示をそのまま鵜呑みにせず、医師の判断を補う材料として位置づけやすくなる点が実務上の利点です。

金融分野では、与信審査AIがどの要素をどの程度重視して評価したかを可視化し、審査担当者の判断記録や申込者への説明に用いる取り組みが進んでいます。与信審査は、判断結果が生活に直結しやすい高リスクなAI利用の一つとして、透明性の確保が特に求められる領域です。根拠が数値で示されていれば、審査結果に疑問が出た場合の検証も進めやすくなります。

採用分野では、選考AIの評価根拠を記録・提示できる体制を整え、応募者からの照会や事後の検証に対応できるようにする動きが見られる状況です。判断をAIだけに委ねるのではなく、参照した材料と最終判断者をあわせて記録する運用が、実務上の対応として定着しつつあります。評価の過程を後から追える形にしておくことが、選考の公正さを裏づける手立てとなるでしょう。

5. 要点まとめ

• XAIは、ディープラーニングのブラックボックス問題を背景に、AIの判断根拠を人が理解できる形で示す技術・研究分野です。
• 精度と解釈性はトレードオフの関係にあり、LIME・SHAP・Grad-CAMの3手法が名前と役割のセットで整理されます。
• 決定木・線形回帰のようなホワイトボックスモデルとの違い、透明性・公平性という隣接概念との位置づけもあわせて見ておきたい点です。

6. 確認問題