概要[編集]
ディープフェイク（でぃーぷふぇいく、英: deepfake）とは、AIの深層学習（ディープラーニング）を使って、実在の人物の顔や声を別の映像・音声に合成したり、本物そっくりの偽コンテンツを作り出したりする技術、およびその生成物の総称である。映画やエンタメで役立つ一方、性的な偽画像、詐欺、選挙の偽動画などに悪用され、2020年代の世界的な社会問題になっている。
詳細[編集]
2023年に拡散した、ダウンジャケット姿のローマ教皇のAI生成画像（実在しない写真・出典：ウィキメディア・コモンズ）
語源[編集]
語源は「ディープラーニング（deep learning）」と「フェイク（fake）」を組み合わせた造語である。もともとは2017年末、アメリカの掲示板サイトRedditに現れた「deepfakes」というハンドルネームのユーザーが、深層学習を使って有名人の顔をアダルト動画に合成したものを投稿し始めたのが始まりとされる。
同年12月にはアメリカのテックメディア「Motherboard」（VICE）がこの現象を報じ、一気に知られるようになった。ユーザー名がそのまま技術名・現象名として定着したという、ネット発祥の言葉らしい経緯を持つ。つまり、言葉が生まれた瞬間から「本人の同意のない性的な合成」という問題と切り離せない言葉だったわけである。
何がそんなに新しかったのか[編集]
写真の合成自体は古くからあり、日本でも有名人の顔を別の写真に貼り付けた「アイコラ（アイドルコラージュ）」が1990年代から問題になっていた。しかしディープフェイクが衝撃的だったのは、「動画」で、しかも「表情や口の動きまで自然に」顔を入れ替えられる点だった。
それまでハリウッド級のVFXスタジオが大金と時間をかけて行っていた作業が、家庭用のパソコンとGPU、そして大量の顔写真さえあれば個人でもある程度できるようになった。この「民主化」こそがディープフェイクの本質的なインパクトであり、同時に悪用が爆発的に広がった原因でもある。
現在の意味の広がり[編集]
現在では「ディープフェイク」という言葉は、狭い意味の顔の入れ替え（フェイススワップ）だけでなく、AIで作られた実在人物の偽の写真・動画・音声全般を指して使われることが多い。テキストから画像や動画を生成する画像生成AI・動画生成AIの発達により、元になる動画すら不要で「それっぽい映像」をゼロから作れるようになったためである。
一方で、AIを使った合成映像すべてが悪というわけではない。映画の若返り処理や、亡くなった俳優の声の再現、多言語広告などの正当な用途も多く、こうした肯定的な文脈では「シンセティックメディア（合成メディア）」と言い換えられることもある。
技術の仕組み[編集]
ここでは原理のみを概説する（具体的な作成手順やツールの使い方は扱わない）。
オートエンコーダ[編集]
初期のディープフェイクの中核となったのがオートエンコーダである。これは画像をいったん小さな特徴量（顔の向き・表情・照明などの情報）に「圧縮（エンコード）」し、そこから元の画像を「復元（デコード）」するニューラルネットワークである。
顔の入れ替えでは、AさんとBさんの顔に共通のエンコーダを使い、デコーダだけを人物ごとに別々に学習させる。Aさんの顔を圧縮した特徴量をBさん用のデコーダで復元すると、「Aさんの表情をしたBさんの顔」ができあがる、という仕組みである。2020年に国内初摘発となった事件では、報道によれば1本の動画を作るのに約3万枚の画像を読み込ませ、1週間ほど学習を繰り返していたとされ、当時はまだ相応の手間がかかる技術だったことがうかがえる。
GAN（敵対的生成ネットワーク）[編集]
GAN（Generative Adversarial Network）は、2014年に研究者イアン・グッドフェローらが発表した手法である。偽物を作る「生成器」と、本物か偽物かを見破る「識別器」の2つのネットワークを競わせることで、生成器がどんどん本物らしい画像を作れるようになる。よく「偽札職人と警察のいたちごっこ」にたとえられる。
GANは実在しない人物の顔写真を高精細に生成する技術（いわゆる「この人物は存在しません」系の顔画像）でも有名になり、ディープフェイクの画質向上に大きく貢献した。
拡散モデル[編集]
2020年代に入ると、ノイズだらけの画像から少しずつノイズを取り除いて画像を作る「拡散モデル」が主流になった。Stable Diffusionなどの画像生成AIがこの方式で、2022年ごろから一般に急速に普及した。
拡散モデルの普及により、数枚の写真からでも特定人物に似せた画像を作れるようになり、さらに動画生成AIの進化で、短い動画も簡単に生成できるようになった。かつて「何万枚もの画像と1週間の学習」が必要だったものが、スマートフォンのアプリやWebサービスで数秒〜数分でできてしまう時代になったことが、後述する学校内での被害の低年齢化にもつながっている。
音声クローン[編集]
顔と並んで問題になっているのが声の合成、いわゆる音声クローン（ボイスクローン）である。音声合成技術の進歩により、数十秒〜数分程度の音声サンプルから、本人そっくりの声で任意の文章を読み上げさせることが可能になった。
音声は映像よりも違和感に気づきにくく、電話やオンライン会議での「なりすまし」に悪用されやすい。後述する選挙のロボコール（自動音声電話）事件や、家族・上司を装った詐欺など、「声のディープフェイク」による被害は世界各地で報告されている。
歴史[編集]
| 年月 | 出来事 |
|---|---|
| 2014年 | イアン・グッドフェローらがGANを発表 |
| 2017年12月 | Redditユーザー「deepfakes」による有名人の合成動画がMotherboardで報じられ、言葉が広まる |
| 2018年1月 | 一般向けの顔交換アプリ「FakeApp」が公開され、作成のハードルが下がる |
| 2018年2月 | Redditが「r/deepfakes」を含む関連コミュニティを閉鎖。PornhubやTwitterなども同意のない合成ポルノを禁止 |
| 2018年4月 | 米BuzzFeedが、オバマ元大統領が話しているように見える啓発用の偽動画を公開し話題に |
| 2019年8月 | 中国で顔交換アプリ「ZAO」が登場し、App Storeで上位に。プライバシー面で批判を受ける |
| 2019年10月 | オランダのDeeptrace社が、ネット上のディープフェイク動画約1万4,678本のうち96%がポルノだったと報告 |
| 2020年10月 | 日本で、女性芸能人の顔を合成したわいせつ動画をネットで公開したとして男性らが名誉毀損・著作権法違反の疑いで逮捕される（国内初摘発） |
| 2022年3月 | ロシアのウクライナ侵攻下で、ゼレンスキー大統領が降伏を呼びかけるかのような偽動画が出回る |
| 2023年1月 | 中国で「深度合成」規制（ディープシンセシス管理規定）が施行 |
| 2023年11月 | 日本で、当時の岸田文雄首相が卑猥な発言をしているように見える偽動画がSNSで拡散。同時期、日本テレビのニュース番組を装った偽の投資広告も確認される |
| 2024年1月 | 香港で、ビデオ会議に「偽のCFO」が登場し、約2億香港ドルが送金される詐欺事件。アメリカではバイデン大統領の偽音声によるロボコールが発生。テイラー・スウィフトの性的偽画像がXで拡散 |
| 2024年3月 | 欧州議会がEU AI法を可決 |
| 2024年8〜9月 | 韓国で、学校の生徒らを狙ったテレグラム上の性的ディープフェイク拡散が社会問題化。9月26日に所持・視聴まで処罰する法改正が国会で可決 |
| 2025年4月 | 鳥取県が、児童を題材とした性的ディープフェイクの作成・提供を禁じる改正条例を施行 |
| 2025年5月 | アメリカで「TAKE IT DOWN法」が成立 |
| 2025年10月 | 警視庁が、生成AIで女性芸能人の性的画像を作成・販売したとして男を逮捕。実在人物を素材にしたAI生成わいせつ画像の摘発は全国初と報じられる |
| 2025年12月 | 警察庁が、18歳未満の性的ディープフェイク被害相談（2025年1〜9月）が79件あったと初公表 |
| 2025年12月〜2026年1月 | X上のAI「Grok」で、実在の人物の写真を性的に加工する投稿が大量発生。各国政府が対応し、日本でも内閣府がX日本法人に改善を要請 |
| 2026年5月 | アメリカでTAKE IT DOWN法のプラットフォーム向け削除義務が全面適用 |
| 2026年8月 | EU AI法の透明性義務（ディープフェイクの表示義務など）の適用が始まる |
正当な用途[編集]
映画・映像制作[編集]
顔や声の合成技術は、映画・ドラマ業界で以前から使われているVFX（視覚効果）の延長線上にある。俳優の若返り（ディエイジング）、スタントマンへの顔の置き換え、撮影後の台詞修正などは、いまやAIを使ったほうが安く速くできる場面が多い。
2022年の映画『トップガン マーヴェリック』では、病気で声を失った俳優ヴァル・キルマーの声を、英国のAI音声企業Sonanticが過去の音声データから再現する取り組みを行ったと報じられ、話題になった（同社はその後Spotifyに買収されている）。なお、本編での使われ方については報道によって説明に差がある。
エンタメ・広告[編集]
広告分野では、2019年にサッカー元イングランド代表のデビッド・ベッカムが、マラリア撲滅キャンペーンの動画で9か国語を話しているように見せる演出が行われた。本人の同意と協力のもとで、AIを使って口の動きを各言語に合わせたもので、ディープフェイクの「善用」の代表例としてよく紹介される。
ほかにも、タレントの「公式デジタルツイン」を作ってCMに起用したり、故人の映像を本人や遺族の許諾のもとで再現したり、ゲームやVTuber的な表現に応用したりと、エンタメでの利用は広がっている。日本ではサイバーエージェントが、著名人の公式3DCGモデルを管理するサービスを展開しており、その一環として本人になりすました偽動画の検知にも取り組んでいる。
教育・アクセシビリティ[編集]
病気で声を失った人が、過去の録音から自分の声を合成して会話に使うといった福祉用途もある。また、歴史上の人物を「しゃべらせる」博物館展示や、語学学習など、教育面での活用も試みられている。
ただし、いずれの用途でも「本人（または権利者）の同意」と「合成であることの明示」が大前提とされることが多く、俳優組合などからは、肖像や声を無断で再利用されることへの警戒感も根強い。
社会問題[編集]
性的ディープフェイク[編集]
ディープフェイクの最大の問題は、本人の同意なく性的な画像・動画を作られる被害である。前述の2019年の調査ではネット上のディープフェイク動画の96%がポルノとされ、被害者の大半は女性だった。
被害を受けた人は、実際には撮影されていないにもかかわらず、名誉や社会的信用を傷つけられ、一度拡散されると完全な削除が極めて難しい。近年は有名人だけでなく、一般人、特に学生が被害を受けるケースが目立つようになっている。
日本での被害と摘発[編集]
日本では2020年10月、女性芸能人の顔を合成したわいせつ動画をネット上に公開したとして、警視庁や京都府警などが男性らを名誉毀損と著作権法違反の疑いで逮捕し、国内初の摘発として大きく報じられた。報道によれば、被害を受けた女性芸能人は延べ約150人、公開された動画は500本を超えていたとされる。ディープフェイクそのものを罰する法律がないため、「元のアダルト動画の著作権侵害」と「芸能人の名誉毀損」という既存法の組み合わせで立件した点が特徴だった。
2025年10月には、生成AIで女性芸能人ら約260人の性的画像を約2万枚作成し、SNSや有料サイトで販売していたとして、警視庁が会社員の男をわいせつ電磁的記録媒体陳列の疑いで逮捕した。売上は約120万円とされ、実在人物を素材にしたAI生成わいせつ画像の摘発は全国初と報じられた。同時期に、知人女性の顔写真を使った性的な偽動画をSNSに投稿した男が逮捕された事例も報じられている。
2025年12月には警察庁が、18歳未満からの性的ディープフェイクの被害相談が2025年1〜9月に79件あったと初めて公表した。内訳は中学生41件、高校生25件、小学生4件などで、加害者の約半数は被害者と同じ学校の生徒だったとされる。卒業アルバムやSNSに載った写真が悪用されるケースが報告されており、2026年3月には文部科学省が教育委員会に対し、警察庁の啓発資料「そのＡＩの使い方、犯罪かも…」の活用などを求める通知を出している。
韓国のテレグラム事件[編集]
韓国では2024年8月ごろ、メッセージアプリ「テレグラム」上で、女子学生や教師、軍人などの顔写真を使った性的ディープフェイクが大量に共有されていたことが明らかになり、全国的な社会問題となった。報道では参加者約22万人とされるチャンネルの存在が伝えられ、全国500校以上の学校の生徒が関係したとも指摘された。
警察への届け出は2021年の156件から、2024年1〜9月だけで812件に急増。同年に摘発された容疑者は387人で、その8割以上が10代だったとされる。韓国はかつて「n番部屋事件」というテレグラムを舞台にしたデジタル性犯罪を経験しており、「またテレグラムか」という強い危機感が法改正を後押しした。
詐欺[編集]
2024年1月、香港で英国系企業（のちに英エンジニアリング大手アラップと報じられた）の現地社員が、ビデオ会議に登場した「CFO（最高財務責任者）」や同僚の指示に従い、計15回にわたって約2億香港ドル（約38億円）を送金する事件が起きた。会議の参加者は本人以外すべてディープフェイクだったとされ、公開されていた動画などから顔や声のデータが集められたとみられている。「ビデオ会議で顔を見て話したのに偽物だった」という点で、企業のセキュリティ担当者に大きな衝撃を与えた。
日本では2023年ごろから、前澤友作氏や堀江貴文氏など著名な実業家・タレントを無断で使った「なりすまし投資詐欺広告」がFacebookやInstagram上で横行した。一部ではAIで合成した本人そっくりの音声・動画が使われ、被害者らがMetaの日本法人などを相手取って損害賠償を求める訴訟を起こしている。また、日本テレビのニュース番組やアナウンサーを生成AIで加工した偽広告も確認され、同局が注意を呼びかけた。
選挙・政治[編集]
2024年1月、アメリカ・ニューハンプシャー州の予備選挙前に、バイデン大統領の声を合成したとみられる「投票に行かないで」という趣旨のロボコールが有権者に流された。関与した政治コンサルタントには連邦通信委員会（FCC）から600万ドルの罰金が科される一方、州の刑事裁判では2025年6月に陪審が全ての罪状で無罪とし、法的責任の問い方の難しさが浮き彫りになった。
ほかにも2022年のゼレンスキー大統領の偽「降伏」動画、2023年のスロバキア総選挙直前に出回った偽音声など、選挙や戦争に絡んだ事例は多い。日本でも2023年11月に、当時の岸田首相が卑猥な発言をしているように見える偽動画が拡散し、首相本人や政府関係者が対応を問われる事態になった。
Grok問題（2025〜2026年）[編集]
2025年末から2026年初めにかけて、Xに統合されたAI「Grok」を使い、実在の女性などの写真を水着や下着姿に加工する投稿が大量に行われ、世界的な批判を浴びた。インドネシアやマレーシア、フィリピンが一時的にGrokへのアクセスを遮断したほか、英国の規制当局Ofcomが調査を開始し、フランスでは検察がX社の事務所を捜索する事態となった。
日本では2026年1月、AI戦略を担当する小野田紀美大臣が、内閣府がX日本法人を呼んで改善を要請したことを明らかにした。ただ、日本のAI推進法には罰則付きの規制がなく、「行政指導」にとどまる限界も指摘された。
各国の法規制[編集]
各国の主な規制は以下の通り（2026年10月時点）。
| 国・地域 | 主な法令 | 内容 |
|---|---|---|
| EU | AI法（2024年成立） | AI生成・改変したコンテンツであることの表示義務（第50条）。2026年8月から適用。既存システムの電子透かし対応は2026年12月2日まで猶予。デジタル・オムニバスによる改正で、同意のない性的画像や児童性的虐待画像を生成するAI（いわゆる「ヌーディファイ」アプリ）の禁止が2026年12月から加わる |
| アメリカ | TAKE IT DOWN法（2025年5月19日成立） | 本人の同意のない性的画像（AI生成の偽画像を含む）の公開を連邦犯罪化（成人対象で最大2年の拘禁刑）。プラットフォームは削除要請から48時間以内の対応が義務。削除義務は2026年5月19日から適用され、連邦取引委員会（FTC）が執行 |
| アメリカ（州） | カリフォルニア州法など | 2019年に性的ディープフェイクの民事訴訟権や選挙前の偽動画規制を導入。2024年にも関連法を多数制定 |
| 韓国 | 性暴力処罰法の改正（2024年9月26日可決） | 性的ディープフェイクの所持・購入・保存・視聴も処罰対象に（3年以下の懲役または3,000万ウォン以下の罰金）。頒布目的の作成などの法定刑を最大7年に引き上げ。2026年1月にはAI基本法も施行 |
| 中国 | 深度合成管理規定（2023年1月施行）、AI生成合成コンテンツ表示弁法（2025年9月施行） | 合成コンテンツへの表示、実名認証、本人の顔・声を編集する際の同意取得などを義務化 |
| イギリス | オンライン安全法（2023年）ほか | 性的ディープフェイクの共有を犯罪化。その後、作成行為自体も処罰対象に |
| 日本 | 専用の法律なし | 名誉毀損罪、わいせつ電磁的記録頒布等罪、著作権法、児童ポルノ禁止法などの既存法で対応。2025年成立のAI推進法は罰則なし |
| 日本・鳥取県 | 青少年健全育成条例の改正 | 2025年4月から、県内の児童を題材とした性的ディープフェイクの作成・提供を禁止。2025年6月30日の改正で、削除命令などに従わない場合に5万円以下の過料を科す行政罰を導入（全国初） |
日本の現状と議論[編集]
日本には、ディープフェイクの作成そのものを直接取り締まる法律はなく、事件ごとに既存の法律を当てはめて対応しているのが実情である。たとえばいわゆるリベンジポルノ防止法（私事性的画像記録の提供等による被害の防止に関する法律）は、実際に撮影された画像を前提としているため、AIによる偽画像には原則として適用しにくいとされる。
実在する子どもの写真を元にした性的な偽画像についても、児童ポルノ禁止法が適用できるかは個別の判断になり、条文上の「実在する児童」との関係で解釈が分かれる部分がある。こうした「法の隙間」を埋めるため、鳥取県が先陣を切って条例で規制したが、表現の自由との関係で憲法上の問題点を指摘する専門家の意見もある。
国のレベルでは、2025年5月に成立した「人工知能関連技術の研究開発及び活用の推進に関する法律」（AI推進法）が、AIの悪用への対応を政府の役割として位置づけたものの、罰則は設けていない。こども家庭庁は2025年6月のワーキンググループで、生成AIを悪用した児童被害について実態把握を進め、取り締まりや画像削除対応を検討する方針を示した。また国会では、アメリカのTAKE IT DOWN法を参考に、削除義務を伴う新たな法整備を求める質問主意書が出されるなど、立法を求める声も上がっている。
2025年12月の警察庁による被害公表や、2026年初めのGrok問題を受けて、新聞の社説などでも法整備を急ぐべきとの論調が強まっている。政府は2026年度中にも具体的な対策をまとめる方向とされるが、2026年10月時点では、性的ディープフェイクを直接罰する国の法律は成立していない。
検出技術と対策[編集]
AIによる検出[編集]
ディープフェイクを見破る方法として、AIそのものを使って偽物を判定する技術の研究が進んでいる。初期のディープフェイクは「まばたきが不自然」「顔の輪郭がぼやける」「歯や耳の形が崩れる」などの特徴があり、こうした痕跡をAIに学習させて検出する。
日本では国立情報学研究所（NII）の越前功教授らのグループが、フェイク顔映像を自動判定するプログラム「SYNTHETIQ VISION（シンセティック・ビジョン）」を開発した。2023年1月にはサイバーエージェントが、タレントのなりすまし動画の検知に採用し、フェイク顔映像の真偽自動判定としては国内初の実用例とされた。
ただし、生成技術が進歩すると検出技術も追いつく必要があり、まさにGANの「生成器と識別器」と同じいたちごっこが続いている。人間の目による判別はすでに難しくなっており、検出AIも「100%見抜ける」わけではない。
来歴証明と電子透かし[編集]
「偽物を見抜く」のではなく、「本物であることを証明する」というアプローチもある。代表的なのが、アドビやマイクロソフトなどが参加する業界団体C2PAが策定した技術標準で、撮影機器や編集ソフトで「誰が、いつ、どう作ったか」という来歴情報（コンテンツクレデンシャル）を画像に付与する仕組みである。
また、Googleの「SynthID」のように、AI生成コンテンツに目に見えない電子透かしを埋め込む技術も実用化されている。日本では、ウェブ上の情報発信者の真正性を証明する「オリジネーター・プロファイル（OP）」技術の開発も、報道機関や広告会社などによって進められている。EU AI法や中国の規制が、こうした「表示」「透かし」を法的に義務付ける方向に進んでいるのも、この流れの一環である。
プラットフォームの対応[編集]
SNSや動画サイトでは、AI生成コンテンツへのラベル表示や、同意のない性的画像の削除ポリシーの整備が進んでいる。YouTubeやTikTok、Instagramなどは、リアルな合成コンテンツを投稿する際にAI生成であることの申告を求める仕組みを導入している。
とはいえ、匿名性の高いメッセージアプリや海外サーバーのサイトでは削除要請が届きにくく、国境を越えた協力が課題として残っている。
炎上とバズ[編集]
- 2018年に米BuzzFeedが公開した、オバマ元大統領が過激な発言をしているように見える動画は、最後に映画監督のジョーダン・ピールが声を当てていたことが明かされる「ネタばらし」付きの啓発動画で、ディープフェイクの危険性を世界に知らしめた。
- 2019年、中国の顔交換アプリ「ZAO」は、自分の顔写真1枚で映画やドラマの名場面の主人公になれるとして爆発的に流行したが、利用規約で顔データの権利を広く運営側に認めていたことが批判され、規約修正に追い込まれた。
- 2024年1月、テイラー・スウィフトの性的な偽画像がXで拡散した際には、Xが一時的に彼女の名前での検索をブロックする異例の対応を取り、アメリカの連邦レベルでの規制論議を加速させたとされる。
- 2023年の岸田首相の偽動画は、日本テレビのニュース番組のロゴを模していたため、同局が「当社のロゴを悪用したもの」と抗議する事態にもなった。
余談[編集]
- 「deepfakes」というユーザーは技術そのものを自慢するように公開しており、その後に派生したオープンソースの顔交換ソフトの多くがこの流れをくんでいるという話がある。名前だけが一人歩きし、本人の正体は今もはっきりしていないとされる。
- 日本の「アイコラ」は、ディープフェイクの「前身」とよく言われる。静止画の切り貼りだったアイコラから、動画を自動生成するディープフェイクへの変化は、技術の進化と被害の深刻化を象徴する例として語られることが多い。
- GANの生みの親とされるイアン・グッドフェローは、アイデアを思いついたのがバーで仲間と議論していた夜で、帰宅してその晩のうちにプログラムを書き、最初の実験で動いたというエピソードで知られる。
- 香港の約38億円詐欺事件では、被害に遭った社員は最初のメールの段階では「怪しい」と感じていたが、ビデオ会議で見知った顔が並んでいたことで信じてしまったとされる。「顔が見えれば安心」という常識自体が通用しなくなった象徴的な事件として、企業研修の題材にもなっている。
- 韓国の2024年の法改正は、国会で賛成多数により異例のスピードで可決され、「視聴しただけで処罰」という世界的に見ても厳しい内容が海外メディアでも大きく報じられた。