サイバー攻撃の脅威は年々高まっているが、そこに、生成AIの進化が拍車をかけている。生成AIは防御にも役立つが、攻撃の高度化にも寄与しており、まさに「諸刃の剣」といえる。

CyberArk Softwareは6月4日、生成AIを活用した最新のサイバー攻撃手法に関する説明会を開催した。今年5月に執行役社長に就任した柿澤光郎氏は、同社の今後の方向性について、次のように説明した。

「従来、特権ユーザーは人の管理が中心だった。昨今、クラウドにへの移行が進んでおり、IDがいろいろな場所に割り振られるようになった。IDを守ることが、セキュリティの要件のキモになると信じており、ゼロトラストセキュリティに行くまでのIDの管理が重要と考えている。今後、IDセキュリティへと進化していきたい」

  • CyberArk Software 執行役社長 柿澤光郎氏

生成AIによって高度化するサイバー攻撃

続いて、CyberArk Labs シニア リサーチ エバンジェリストのアンディ・トンプソン氏が、AIを活用した最新のサイバー攻撃手法について説明を行った。

フィッシングメールの開封率が向上

まず、生成AIにより、フィッシングメールの開封率が上がると考えられるという。それを実現する技術の一つが、音声を用いて攻撃を仕掛けるヴィッシング（Vishing：ボイスフィッシング）だ。

トンプソン氏は、生成AIによって俳優の真田広之氏の声を再現して見せたが、メディアを介してしか真田氏を知らない身からすると、同氏の声そのものに聞こえた。これが、家族や上司そっくりの声で緊迫した内容の電話がかかってきたら、だまされてしまうかもしれない。

攻撃者は、生成AIを活用して、A/Bテストを実施するなど、フィードバックを繰り返すことで、偽の音声のクオリティを上げていく。現在のフィッシングにおけるメール開封率は5％～10％だが、生成AIの登場により驚異的に開封率が上昇することが予想されるという。

ディープフェークで顔認証を突破

続いて、ディープフェークによる顔認証が紹介された。日々、ディープフェークによって被害を受けた著名人に関する報道がなされており、ディープフェークに対し、恐怖を覚えている人も多いだろう。

テルアビブ大学では、生成AIによって作成した写真をデータベースで比較して、さらに新しい顔を作成する作業を繰り返すことで、最終的に9つの顔を作成した。その結果、9つの顔だけですべての生体認証の60％クリアできたという。

  • 生成AIによって作成した9つの顔だけで60％の顔認証と合致

トンプソン氏は、「守る側は100％合致する必要があるが、攻撃者は一度クリアできればよく、60％は攻撃者にとって有効な数字といえる。ただし、あくまでも理論的な数字でしかない」と説明した。

プリモフィックマルウェアを作成

さらに、トンプソン氏は「AIは使い手によって、ツールにもなるし、武器にもなる。例えば、攻撃者はAIによってマシンの中に依存関係を把握して、そのマシンに合わせてカスタマイズしたマルウェアを作ることができる」と述べ、生成AIによってポリモーフィック型マルウェアが作成できるリスクを紹介した。

ポリモーフィック型マルウェアとは、元のマルウェアの機能を維持しながら、検知を回避するために変異するマルウェア。なお、プリモフィック型マルウェアは新しいものではなく、以前はソースコードの隠し方を変えるものと定義されており、変数や関数は変わっていなかったという。

しかし、同社は2023年にChatGPTを用いてポリモーフィック型マルウェアを作成する手順を公開した。また、GPTモデルを使用してポリモーフィック プログラムを作成するためのインフラストラクチャを示すオープンソースプロジェクト「ChattyCaty」で、マルウェアを作成しているという。

トンプソン氏は、「パスワードが複雑でも、多要素認証を使っていても関係ない。認証済みのユーザーのセッションがハイジャックされてしまう」と、ポリモーフィック型マルウェアのリスクの高さを指摘した。

マルウェアに依存しないアプローチで対応

トンプソン氏は、「生成AIは1950年代から存在しており、新しいものではない。しかし、パラメータの数の急増によって進化している」と、生成AIの成長の要因について説明した。

例えば、モデル「GPT-2」は15億のパラメータでトレーニングされているが、最新の「GPT-4」のトレーニングに使われているパラメータは1兆7600億に達している。

このように驚異的な成長を遂げているモデルに支えられている生成AIは、セキュリティの脅威を劇的に変化させている。

しかし、「変わらないものもある。それは、攻撃者がアイデンティティを盗もうとしていること、マシン・サービス・サーバのアカウントもアイデンティティになること」と、トンプソン氏は指摘した。

こうした状況から自社の環境を保護するには、マルウェアに依存しないアプローチが必要だという。トンプソン氏は、今後求められる対策について、「アンチウイルスソフトやEDRは以前の価値を発揮できなくなっている。アプリケーションコントロールという新たな統制を付加することが必要。マルウェアを実行できなければ、機能しない」と語っていた。