ディープフェイク (G検定)

1. 定義と概要

ディープフェイクとは、「ディープラーニング（深層学習）」と「フェイク（偽物）」を組み合わせた造語です。生成AI（人が作ったかのような文章・画像・音声を新たに作り出すAIの総称）の代表的な技術に、GAN（敵対的生成ネットワーク）と拡散モデルがあります。

GAN（敵対的生成ネットワーク）とは、ジェネレータとディスクリミネータという2つのネットワークを競わせて、本物そっくりの偽データを作り出す技術のことです。拡散モデル（ノイズを少しずつ取り除きながらデータを作り出す方式の生成AI技術）とあわせて深層生成モデルと呼ばれ、これらの技術を応用し、実在の人物の顔・音声・動作を精巧に合成・改変したメディアや、その技術のことを指します。

2017年にアメリカのSNS「Reddit」上でユーザー「deepfakes」が顔交換動画を投稿したことが、語の由来とされています。代表例としては、著名人の顔を別人の映像に合成した動画や、本人そっくりの音声で任意の発言をさせる音声クローン（特定の人の声の特徴をAIに学習させ、同じ声で任意の発言をさせる技術）が挙げられます。

従来、映像・音声の加工には専門的なCG技術や吹き替えなど、手間とコストのかかる作業が必要でした。しかし2014年にGANが提案されて以降、深層生成モデルの発展によって、少ない素材からでも精巧な合成が可能になっています。

2017年に語が生まれたことを機にディープフェイク生成ツールが一般にも広がり、なりすまし詐欺やフェイクポルノ、政治的な偽情報といった悪用事例が社会問題化しました。これを受けて、技術・法規制の両面から対策が議論されるようになっています。

2. 試験対策ポイント

G検定における重要な論点の一つが、ディープフェイクの技術的な位置づけです。GAN（敵対的生成ネットワーク）はジェネレータとディスクリミネータの対抗学習によって偽データを生み出す、技術の枠組みそのものを指します。これに対しディープフェイクは、GANや拡散モデルといった技術を人物の顔・音声の偽装という具体的な用途に応用した結果物にあたります。

GANの悪用事例としてディープフェイクを捉えると、「GANは技術の枠組み、ディープフェイクはその応用の結果物」という階層関係を取り違えないことが重要なテーマになります。

悪用事例は大きく3つの類型に整理できます。それぞれ、何を偽装する手口なのかが分かれます。

類型	手口
ビジネスメール詐欺（BEC。取引先や上司になりすましたメールや通話で送金を指示する詐欺の手口）	経営幹部の声を合成して送金を指示する
フェイクポルノ	本人の同意なく性的な映像を合成する
政治的な偽情報	政治家の虚偽発言を映像化する

この3類型が代表的な論点として扱われ、対策の議論もこれらを前提に組み立てられています。

対策の面では、AI生成コンテンツであることを示す電子透かし（ウォーターマーク。見た目には気づきにくい印を画像・音声に埋め込む技術）や、コンテンツの生成元や編集履歴を記録する来歴表示（C2PA等。コンテンツがいつ誰によって作られ・編集されたかの経歴を記録し証明する仕組み）といった、真正性を示す技術が扱われます。

法規制の面では、国・地域によって対応の考え方が分かれます。

国・地域	ディープフェイクへの規制
日本	2026年時点で直接規律する専用法はなく、名誉毀損罪・肖像権侵害・詐欺罪・公職選挙法を中心に既存法の組み合わせで対応
EU	AI法が、ディープフェイク生成AIにAI生成物である旨を開示する透明性義務を課している

日本で挙げられる既存法には、実在の性的画像の無断公開を規制するリベンジポルノ防止法（私事性的画像記録の提供等による被害の防止に関する法律）も含まれます。ただし同法は実在の画像の流通を対象とした法律であり、AIが合成した実在しない性的画像への適用には解釈上の論点が残ります。こうした規制の有無や対象範囲の違いが、国・地域を比べるうえでの論点になります。

3. 関連概念との比較・相違点

GAN（敵対的生成ネットワーク）との最大の違いは、概念の階層にあります。GANはジェネレータとディスクリミネータの対抗学習という、生成AIの技術的な枠組みそのものを指します。これに対しディープフェイクは、GANや拡散モデルといった技術を人物の顔・音声の偽装に応用した結果物・応用事例を指す概念です。

GAN自体は画像生成やデータ拡張など幅広い用途に使われる技術であり、ディープフェイクはその応用先の一つという関係にあります。両者を並列の別概念として捉えると、階層関係を取り違えやすい点です。

フェイクニュースとの最大の違いは、対象となるメディアの種類にあります。フェイクニュースはテキストによる虚偽の報道・情報全般を指すのに対し、ディープフェイクは映像・音声など視聴覚メディアの合成技術に特化した偽情報という位置づけです。

テキストの虚偽情報は文章表現の巧拙で真偽を見極めにくい一方、ディープフェイクは視覚・聴覚に直接訴えるため、受け手が信じ込みやすいという特徴があります。

4. ビジネス・実務での活用シナリオ

金融・企業セキュリティの分野では、経営幹部の声や顔を合成したなりすましによるビジネスメール詐欺が巧妙化しています。音声や映像だけを根拠に送金の可否を判断すると、被害に直結しかねません。そのため、複数経路での本人確認や、承認フローそのものの見直しが課題になっています。

メディア・広報の分野では、著名人や政治家の偽発言映像がSNSで拡散すると、株価変動や社会的混乱を招く恐れがあります。企業やメディア各社は、電子透かしや生成AIラベリング（コンテンツがAIによって生成されたものであることを表示する仕組み）など、真正性を示す対策の導入を進めています。

エンタメ・広告の分野では、本人の同意を得た上での吹き替え映像の口の動き同期や、故人の映像を用いた追悼コンテンツの制作など、正当な活用事例も存在します。同じ技術でありながら、本人の同意の有無によって評価が大きく分かれるため、悪用との線引きが技術・法規制の両面で議論されています。

5. 要点まとめ

• ディープフェイクはディープラーニングとフェイクの造語で、GANや拡散モデルなど深層生成モデルを応用して人物の顔・音声を精巧に合成した偽コンテンツ・技術を指します。
• ビジネスメール詐欺・フェイクポルノ・政治的偽情報が代表的な悪用事例で、電子透かしや来歴表示など検出・対策技術とセットで扱われます。
• 日本は専用法を持たず既存法の組み合わせで対応する一方、EUのAI法は生成AIに透明性義務を課すなど、法規制の有無や範囲は国・地域によって異なります。

6. 確認問題