Resecurityはこのほど、「Resecurity - Crypto-Influencer DeepFakes Are the Cybercriminal Economy’s Latest Business Line」において、ディープフェイクがサイバー犯罪経済の新たなビジネスになるとして注意を呼び掛けた。ディープフェイクが政治的プロパガンダ、外国への影響活動、偽情報、詐欺などに使用される可能性が高くなると予測している。
Resecurityは、ディープフェイクを機械学習技術の高度な実装である敵対的生成ネットワーク(GANs: Generative Adversarial Networks)によって作られるデジタル偽造の一種と捉えている。2014年にカナダの研究者によって一般に紹介された敵対的生成ネットワークは通常、人物の顔やその人物の話し方およびジェスチャーを模倣する技術とされている。
最近、「RealDeepFake」と呼ばれているアンダーグラウンドサービスがTelegramグループを通じて容易に利用できることが確認されている。このサービスではユーザーが選んだ人物でディープフェイクのインスタンスが作成して、選択した台本からボイスオーバーを適用することができ、エフェクトやテキストなども含めることができるという。RealDeepFakeではElon Musk氏やDonald Trump氏、Cristiano Ronaldo氏などの著名人がディープフェイクとして生成できるとされている。
Resecurityは今後このようなアンダーグラウンドサービスによるディープフェイクによって著名人がサイバー犯罪者に悪用され、説得力のある電子メールなどと組み合わせ、暗号通貨の窃取などのフィッシング詐欺が増加すると予想している。