Grad-CAM (G検定)

1. 定義と概要

Grad-CAMとは、CNNが画像分類の際にどの領域に着目して判断したかを可視化する手法です。判断根拠は、逆伝播（バックプロパゲーション。予測の誤差を出力側から入力側へ逆向きに伝えて、各層の重みを調整する学習の仕組み）で得られる勾配の情報を使い、ヒートマップとして示されます。

この手法は、Ramprasaath R. Selvaraju氏らの論文として2016年に公開されました。判断の根拠となった領域は、色の濃淡として元の画像に重ねて表示されます。

先に提案されていたCAM（Class Activation Mapping。判断根拠の領域を可視化する、Grad-CAMより先に登場した手法）は、ネットワークの終盤層をGAP層（Global Average Pooling。特徴マップ全体の値を平均して1つの数値にまとめる処理）に置き換えた構造でなければ使えませんでした。既存モデルに適用するには構造変更と再学習が必要という制約がありました。

Grad-CAMは勾配の情報を使うことでこの構造的な制約を取り除き、構造変更や再学習をせずに既存の学習済みCNNをそのまま可視化に使えるようにしました。ディープラーニングのブラックボックス問題（AIがなぜその判断をしたのか人間が根拠を追跡できない問題）に対応する、説明可能なAI（XAI）の具体的な手法の一つとして位置づけられています。

2. 試験対策ポイント

まず整理したいのは仕組みの流れです。Grad-CAMは、最終畳み込み層（CNNの中で畳み込み処理を行う層のうち、最後に位置する層）が出力する特徴マップ（畳み込み層が画像から抽出した特徴を並べたデータ）を出発点として、次の順に処理を進めます。

手順	内容
1. 勾配を計算する	最終畳み込み層が出力する特徴マップに対して勾配を計算する
2. 重みとして合成する	勾配の大きさを重みとして、特徴マップを合成する
3. ヒートマップにする	合成した結果を、着目領域を示すヒートマップとして出力する

勾配が大きいピクセルや領域ほど、分類結果への影響が大きいとみなされる関係にあります。

Grad-CAMの利点としてあわせて整理しておきたいのは、CAMと異なりネットワーク構造に制約がなく、既存の学習済みモデルに構造変更や再学習なしでそのまま適用できる汎用性の高さです。すでに運用されているモデルの判断根拠を後から確認したい場面で、この特徴が活きてきます。

限界として押さえておきたいのは、示せる着目領域があくまで大まかな範囲にとどまり、物体の輪郭など細部までは鮮明に可視化できない点です。この限界を補う手法として、Guided Backpropagation（入力画像に近い勾配の情報を使い、高い解像度で特徴を可視化する手法）が挙げられます。

これとGrad-CAMを組み合わせたGuided Grad-CAM（輪郭まで鮮明に可視化する発展手法）が存在します。仕組みの詳細は別の解説に譲りますが、粗い領域を示すGrad-CAMと輪郭まで鮮明にするGuided Grad-CAMという関係は、あわせて整理しておきたいところです。

説明可能なAI（XAI）全体の中では、Grad-CAMはディープラーニングのブラックボックス問題への対処法の具体例の一つという位置づけになります。

3. 関連概念との比較・相違点

CAM・Grad-CAM・Guided Grad-CAMは名前が似ていますが、可視化の示し方と前提条件が異なります。3つを並べると、次のように整理できます。

手法	判断根拠の示し方	前提となる条件
CAM	判断根拠の領域を可視化する	終盤層をGAP層に置き換えた構造が必須。既存モデルには構造変更と再学習が必要
Grad-CAM	勾配を重みに特徴マップを合成し、大まかな領域をヒートマップで示す	構造の制約なし。既存の学習済みCNNにそのまま適用できる
Guided Grad-CAM	輪郭など細部まで鮮明に示す	Grad-CAMと、Guided Backpropagation による可視化を組み合わせる

CAMとの最大の違いは、この表の右列にあたるネットワーク構造の制約と再学習の要否です。Grad-CAMは勾配情報を使うことでCAMの制約をなくしました。仕組みの詳細はCAM側の解説に譲りますが、構造を選ばない汎用性の高さがGrad-CAM側の強みです。

Guided Grad-CAMとの最大の違いは、可視化される領域の粗さにあります。Grad-CAM単体では対象の大まかな領域しか示せず、輪郭は不鮮明なままです。これに対しGuided Grad-CAMは、入力画像に近い勾配情報を使う可視化手法と組み合わせることで、入力画像に近い解像度で細部の輪郭まで鮮明に可視化できます。

仕組みの詳細はGuided Grad-CAM側の解説に譲りますが、大まかな領域を示すか輪郭まで示すかという粒度の違いが、両者を分ける軸になります。

4. ビジネス・実務での活用シナリオ

医療分野では、画像診断支援AIが「悪性の可能性が高い」と判定した際、Grad-CAMで着目領域をヒートマップ表示することで、医師が判定の妥当性を確認しやすくなります。判断根拠を目に見える形で示せることは、医療現場で求められるアカウンタビリティ（説明責任。判断や結果について、その理由を説明する責任）を果たすうえで欠かせない要素です。

製造業の外観検査では、製品の傷や欠陥を検知するAIがどの部分を異常と判断したかをヒートマップで示すことで、誤検知の原因究明やモデル改善につなげやすくなります。検査対象のどこに反応したかが分かれば、照明条件や撮影角度など見直すべき要因も絞り込みやすくなり、検査精度の底上げにつながります。

モデル開発やデバッグの場面でも、Grad-CAMは有効です。開発者がGrad-CAMで着目領域を確認すれば、モデルが本来注目すべきでない背景など、無関係な部分を判断根拠にしていないかを検証できます。想定外の領域に反応していると分かった場合には、学習データの偏りなど改善すべき点に早く気づけるという効果があります。

5. 要点まとめ

• Grad-CAM（Gradient-weighted Class Activation Mapping）とは、CNNの勾配情報を使い、画像分類の判断根拠となった領域をヒートマップとして可視化する手法です。
• CAMと異なりネットワーク構造に制約がなく、既存の学習済みモデルに構造変更や再学習なしでそのまま適用できる点が特徴です。
• 示せるのは大まかな領域にとどまり輪郭は不鮮明という限界があり、Guided Backpropagation（勾配情報を使う高解像度の可視化手法）と組み合わせたGuided Grad-CAMがこれを補います。

6. 確認問題