eSecurity Planetは6月23日(現地時間)、「AI Deepfake Scams Surge: Over $200 Million Lost」において、深刻さを増すディープフェイクの現状を伝えた。

ここ数カ月で生成されたコンテンツの数、洗練度、影響力が急速に増しており、著名人のみならず一般人までもが嫌がらせ、脅迫、いじめの対象になっている実態を明らかにしている。

  • AI Deepfake Scams Surge: Over $200 Million Lost

    AI Deepfake Scams Surge: Over $200 Million Lost

ターゲットに変化が起きている

eSecurity PlanetはResemble AIが4月に公開した「2025年第1四半期ディープフェイクインシデントレポート」の概要と、組織が取り組むべき防御策について取り上げている(参考：「(PDF) Q1 2025 Deepfake Incident Report: Mapping Deepfake Incidents - RESEMBLE.AI」)。

レポートによると被害者の約41%を有名人や政治家が占めている一方、一般人を標的にする攻撃が約34%を占め増加傾向にあるという。また、一般人への攻撃では教育環境(未成年者)と女性が被害を受けやすいとしている。

サイバー攻撃の多くは経済的利益、スパイ活動、政治的主張を目的として実施されるが、ディープフェイクを使用した一般人への攻撃では復讐、脅迫、嫌がらせを目的にすることが多いとされる。このような攻撃は生成AIの発達と共に急速に広がっており、被害者救済やプラットフォームへの責任追求が追いつかず、限定的な対応に留まっていることが指摘されている。

米国では新法案が可決される

eSecurity Planetによると、米国では合意のない性的搾取画像の拡散に対処する新法案「Take It Down Act」が可決されたという。新法案はソーシャルネットワーキングサービス(SNS: Social networking service)やWebサイトの運営者に対し、被害者の要請から48時間以内にディープフェイクを含むコンテンツの削除を義務づけるものとされる。

この法案については米国大統領夫人も支持を表明しており、採決後に次のように述べたとされる。

「子どもたちの尊厳、プライバシー、安全を守るために私たちが団結しているという力強いメッセージだ」

主要なプラットフォームも支持を表明しているが、電子フロンティア財団(EFF: Electronic Frontier Foundation)は欠陥があるとして懸念を表明している。具体的には幅広いコンテンツに適用される可能性、悪意のある削除要請に対する重要な保護措置の不足、48時間という限られた時間でコンテンツの違法性を確認することの難しさを指摘している(参考：「Congress Passes TAKE IT DOWN Act Despite Major Flaws | Electronic Frontier Foundation」)。

組織が取り組むべき防御策

米国では規制強化の取り組みが進められているが、多くの国ではディープフェイクの進歩に対して規制が追いついていない。そこで、自助による防御の強化が必要として、組織に対し次の対策の実施が推奨されている。

  • ゼロトラスト通信プロトコルの使用：ビデオや音声を介する機密性の高いリクエストにはマルチチャンネル検証を要求する
  • ディープフェイクインシデント対応計画の策定：疑わしいディープフェイク攻撃の迅速な特定と、適切なエスカレーションや対応策を取りまとめたプレイブックを作成する
  • 合成メディアを識別できるように従業員を教育：ディープフェイクに関する事例の説明や演習を通常のサイバーセキュリティ研修に組み込む
  • 経営層の保護：経営幹部が登場する高品質な動画と音声へのアクセスを制限し、公開コンテンツには透かしを入れて不正使用を防止する
  • 協力企業の調査と面接の強化：オフライン面接や生体認証を利用して、なりすましを防止する

ディープフェイクは誰でも簡単に扱えるようになってきており、その高度化が進むにつれて新たな課題を生み出している。これら課題に対処するため米国を中心に規制を強化する動きがみられるが、過度な規制はメディアを萎縮させ、権威主義国家に都合のよい状況を作り出す可能性がある。

増加傾向にある偽コンテンツから弱者を保護し、選挙プロセスへの不正介入などを適正に防止するため、プラットフォーマー、生成AI関係者、立法および行政機関には不断の努力が求められている。