LIME (G検定)

1. 定義と概要

LIME とは、Local Interpretable Model-agnostic Explanations（局所的で解釈可能かつモデルに依存しない説明）の略称です。機械学習モデルによるある1件の予測結果に着目し、その周辺（局所）だけを解釈しやすい単純な線形モデル（入力と出力の関係を直線的な式で表す、仕組みが分かりやすいモデル）で近似します。この近似によって、判断に効いた特徴量（予測に使われる入力データの各項目）を明らかにします。

提案されたのは2016年で、Marco Ribeiro 氏らが論文「”Why Should I Trust You?”: Explaining the Predictions of Any Classifier」で発表しました。画像を「犬」と判定した根拠となった領域を示したり、迷惑メール判定の根拠となった単語を示したりする使い方が代表例です。

機械学習モデル、特にディープラーニングのような複雑なモデルは精度が高い一方で、内部でどのような根拠から予測に至ったかが人には分かりにくいという課題を抱えています。こうした状態はブラックボックス（内部でどう判断しているかが人には分かりにくいモデルの状態）と呼ばれます。

医療診断や与信審査のように予測結果の理由を人が確認できる必要のある場面が増えたことで、モデルの中身を変えずに個々の予測の理由を後付けで示す手法への関心が高まりました。その代表として提案されたのが LIME です。

2. 試験対策ポイント

LIME という名称は4つの語から成り立っており、その一つひとつが手法の性質を表しています。名称と意味の対応は次のとおりです。

構成語	意味	表している性質
Local	局所的	説明したい1件のデータの周辺だけに絞って近似する
Interpretable	解釈可能	人が読み取れる単純なモデルで近似する
Model-agnostic	モデルに依存しない	対象となる AI モデルの内部構造を問わずに使える
Explanations	説明	予測の根拠を特徴量ごとに示す

4語のうち特に取り違えやすいのが Model-agnostic で、対象となる AI モデルの内部構造を問わずに使えるという性質を表します。それぞれの意味の対応をあわせて整理しておきたいところです。

仕組みの中心にあるのは、説明したい1件のデータの周辺で入力を少しずつ変化させる摂動（せつどう。元のデータを少しずつわざと変化させること）です。摂動を加えて擬似的なデータを多数生成し、それを元のモデルに入力して予測させます。得られた結果の集まりを線形モデルで近似することで、どの特徴量が予測に強く効いたかを抽出します。

model-agnostic という性質は、ニューラルネットワーク・決定木・サポートベクターマシン（SVM。データを2つのグループに分ける境界線をもとに分類する手法）といった対象モデルの内部構造を問わない汎用性を指す性質です。予測を返す分類器であれば種類を問わず適用できる点が要点です。

対応するデータ形式も表形式データ・テキスト・画像と幅広く、扱える入力の種類が限定されない点も特徴です。画像に適用する際は、意味のあるまとまりであるスーパーピクセル（画像を意味のあるまとまりごとに区切った小領域）単位で摂動を加えます。

一方で限界もあります。近似の結果はサンプリングに依存するため、同じデータに対して実行するたびに結果が変動しうる点は制約の一つです。局所近似（全体ではなく注目する1点の周辺だけに絞って単純な形で表すこと）が妥当な範囲を超えると、説明の忠実性が下がる点もあわせて押さえておきたいポイントです。

3. 関連概念との比較・相違点

SHAP（協力ゲーム理論の考え方を使って特徴量ごとの貢献度を計算する別の説明手法）との最大の違いは、根拠を導く近似のしかたにあります。観点ごとの違いを並べると、次のように整理できます。

観点	LIME	SHAP
根拠の導き方	1件の周辺で入力を摂動させたサンプルを生成し、線形回帰で局所近似する	協力ゲーム理論のシャープレイ値にもとづいて寄与を理論的に配分する
結果の一貫性	サンプリングに依存し、実行のたびに結果が変動しうる	理論的な裏付けにより一貫した値を得やすい
計算コスト	仕組みが単純な分、軽量に動かせる	特徴量どうしの組み合わせを考慮するため、特徴量が多いと重くなりやすい

どちらか一方が優れているという関係ではなく、説明の厳密さを重んじるか、手軽さを重んじるかという性格の違いとして押さえておきたいところです。

Grad-CAM（画像を判断する CNN が画像のどこに注目したかをヒートマップで示す手法）との違いは、適用範囲と説明の出し方にあります。LIME は表形式データ・テキスト・画像のいずれにも使える汎用性を持つのに対し、Grad-CAM は畳み込みニューラルネットワーク（CNN）による画像分類に特化した手法です。

説明の出し方にも違いが表れます。LIME は特徴量ごとの寄与の大きさを数値で示すのに対し、Grad-CAM は注目した画像領域をヒートマップで可視化します。LIME が対象を選ばない手軽さを武器にするのに対し、Grad-CAM は画像という得意領域に絞って精度の高い可視化を行う、という住み分けです。

4. ビジネス・実務での活用シナリオ

金融の与信審査では、融資可否を判定するモデルについて、申込者ごとに LIME を適用し、「年収」や「返済履歴」など判断に効いた項目を提示する使い方があります。審査結果をブラックボックスのまま通知すると申込者への説明責任を果たせないため、根拠を項目単位で示せることが担当者の確認・説明を支える材料です。

医療の分野では、画像診断を支援するモデルの推論（学習済みのモデルを使って答えを出す処理）結果に対し、LIME で判断に寄与した画像領域や特徴量を示す使い方が考えられます。診断は人の生命に関わる判断であるため、モデルの出力をそのまま受け入れるのではなく、医師が根拠を確認したうえで最終的な判断を下すことが欠かせません。

マーケティングの解約予測では、顧客ごとの解約リスクに LIME を適用し、利用頻度の低下など、リスクを高めている要因を担当者に提示する使い方があります。要因が個別に分かることで、画一的な施策ではなく顧客ごとに合わせた引き止め施策を検討する材料になります。

5. 要点まとめ

• LIME は Local Interpretable Model-agnostic Explanations の略で、1件の予測結果の周辺だけを単純なモデルで近似し、判断に効いた特徴量を示す手法です。2016年に Ribeiro 氏らが提案しました。
• 入力を少しずつ変化させたデータを多数生成してモデルに予測させ、その結果を線形モデルで近似する仕組みと、モデルの種類を問わない model-agnostic という性質が要点です。
• SHAP とは近似のしかた・一貫性・計算コストの点で、Grad-CAM とは適用範囲や説明の出し方の点で違いがあります。

6. 確認問題