Techstrong Groupは4月29日(米国時間)、Security Boulevardの「Phishing 3.0: Trust, Deepfakes, and Why Your Inbox Might Betray You - Security Boulevard」において、生成AIが信頼の基盤を揺るがしていると伝えた。

対面での交渉では相手を特定できるが、オンラインにおける交渉においては生成AIが信頼そのものを武器化していると指摘。機械の速度で行われるソーシャルエンジニアリングが新たな戦場だとして、新しい対策の必要性を訴えている。

  • Phishing 3.0: Trust、Deepfakes、and Why Your Inbox Might Betray You - Security Boulevard

    Phishing 3.0: Trust, Deepfakes, and Why Your Inbox Might Betray You - Security Boulevard

新しい攻撃手法がやってくる

イタリアでは今年初め、世界的なファッションブランドの創業者を標的とする新しいサイバー攻撃が行われたという。攻撃者は生成AIを悪用してイタリアの国防大臣を模倣し、中東で誘拐されたイタリア人ジャーナリストの解放に必要として緊急の財政援助を求めたとされる。標的にはファッションデザイナーのアルマーニ氏やプラダの創業者などが含まれていたが、被害者はサッカークラブの元オーナーただ1人とみられている(参考：「AIインシデントデータベース: Report 5083」)。

偽の音声メッセージ自体は新しい攻撃手法ではないが、イタリアの例では複数のチャネルを通じた組織的な攻撃が行われている。緊急性を訴える生成AIメールから始まり、最高経営責任者(CEO: Chief Executive Officer)を装った生成AIの音声メッセージなども駆使し、被害者に検証する暇を与えなかったという。

専門家はこの攻撃手法を「マルチチャネル・ディープフェイク・ソーシャルエンジニアリング」と名付け、まもなく欧州連合(EU: European Union)全土、そして世界中に広がるだろうとの予測を伝えている。

フィッシング3.0に向けた新しい対策が必要

マルチチャネル・ディープフェイク・ソーシャルエンジニアリングは悪意のあるリンクやマルウェアを使用せず、人間の信頼を悪用する。そのため従来のセキュリティは通用しないと評価されている。

IRONSCALESの最高経営責任者を務めるEyal Benishti氏は次のように述べている(参考：「Restoring Trust in Business Communications」)。

「フィッシング1.0がフィルターによって検出され、フィッシング2.0が行動AI、NLP、ユーザートレーニングによって検出できるとすれば、フィッシング3.0(新しい攻撃手法)はまったく新しい考え方が必要です。前世代のフィッシングのギャップを埋めることもできない戦略に頼ることはできません。静的な防御力に生成AIを追い越すとの期待はありません」

そこで同氏はディープフェイクの検出を可能にする新しい手法が必要だと訴えている。具体案として、世界中のセキュリティ専門家とエンドユーザーから学習し続けるAIモデルを提案している。

攻撃者はセキュリティ企業を出し抜こうと努力を続けている。セキュリティ企業はそのさらに一歩先を目指し続ける必要がある。被害調査のフィードバックから得られるセキュリティ対策も重要だが、未知の脅威を防止するAI技術の開発も今後は重要になっていくとみられている。