米国連邦捜査局(FBI: Federal Bureau of Investigation)は6月5日(米国時間)、「Malicious Actors Manipulating Photos and Videos to Create Explicit Content and Sextortion Schemes」において、悪意のある行為者が「ディープフェイク」と呼ばれる合成コンテンツを作成し、それらを利用して被害者を脅迫していると警告した。

  • Malicious Actors Manipulating Photos and Videos to Create Explicit Content and Sextortion Schemes

    Malicious Actors Manipulating Photos and Videos to Create Explicit Content and Sextortion Schemes

ディープフェイク技術の進歩により、人工知能(AI: Artificial Intelligence)を使用したコンテンツ作成の品質やカスタマイズ性、アクセシビリティが向上している。その技術が悪用され、未成年の子供や同意していない成人を含む被害者から、写真や動画が露骨なコンテンツに改変されたという報告がFBIに多数寄せられている。加工された写真や動画は、被害者へのハラスメントやセクストーション（性的強要）の目的に使われる可能性があるとし、ソーシャルメディアやポルノWebサイトに流出していると報告されている。

セクストーションは、被害者に性的な写真やビデオを提供するよう強要し、それを公開したり、被害者の家族や友人と共有することで脅す行為とされている。より多くの不正なコンテンツを求めることや金銭的な利益を得ること、いじめや嫌がらせをすることが主な動機とされている。

2023年4月時点で、セクストーションによる被害報告がFBIに多く寄せられていることがわかった。被害の多くは、自分のSNSやWeb投稿から作成された偽の画像や動画、または悪意のある行為者から要求に応じて提供されたもの、ビデオチャット中に撮影されたものなどが使われている。

悪意のある行為者から金銭やギフトカードなどの支払いを要求され、支払いがない場合は画像や動画を家族やソーシャルメディアの友人と共有すると脅され、結果的に被害者が実際の性的なテーマの画像や動画を送信してしまうという被害が紹介されている。

SNSやオンラインサイトに写真やビデオ、個人情報を投稿する際は、慎重になるよう注意が呼びかけられている。FBIは、掲載されたコンテンツが悪意のある行為者によって犯罪目的に利用され、嫌がらせ、恐喝、金銭的損失、再被害などのリスクにさらされる危険性があると警告している。