サむバヌ攻撃の脅嚁は幎々高たっおいるが、そこに、生成AIの進化が拍車をかけおいる。生成AIは防埡にも圹立぀が、攻撃の高床化にも寄䞎しおおり、たさに「諞刃の剣」ずいえる。

CyberArk Softwareは6月4日、生成AIを掻甚した最新のサむバヌ攻撃手法に関する説明䌚を開催した。今幎5月に執行圹瀟長に就任した柿柀光郎氏は、同瀟の今埌の方向性に぀いお、次のように説明した。

「埓来、特暩ナヌザヌは人の管理が䞭心だった。昚今、クラりドにぞの移行が進んでおり、IDがいろいろな堎所に割り振られるようになった。IDを守るこずが、セキュリティの芁件のキモになるず信じおおり、れロトラストセキュリティに行くたでのIDの管理が重芁ず考えおいる。今埌、IDセキュリティぞず進化しおいきたい」

  • CyberArk Software 執行圹瀟長 柿柀光郎氏

生成AIによっお高床化するサむバヌ攻撃

続いお、CyberArk Labs シニア リサヌチ ゚バンゞェリストのアンディ・トンプ゜ン氏が、AIを掻甚した最新のサむバヌ攻撃手法に぀いお説明を行った。

フィッシングメヌルの開封率が向䞊

たず、生成AIにより、フィッシングメヌルの開封率が䞊がるず考えられるずいう。それを実珟する技術の䞀぀が、音声を甚いお攻撃を仕掛けるノィッシングVishingボむスフィッシングだ。

トンプ゜ン氏は、生成AIによっお俳優の真田広之氏の声を再珟しお芋せたが、メディアを介しおしか真田氏を知らない身からするず、同氏の声そのものに聞こえた。これが、家族や䞊叞そっくりの声で緊迫した内容の電話がかかっおきたら、だたされおしたうかもしれない。

攻撃者は、生成AIを掻甚しお、A/Bテストを実斜するなど、フィヌドバックを繰り返すこずで、停の音声のクオリティを䞊げおいく。珟圚のフィッシングにおけるメヌル開封率は510だが、生成AIの登堎により驚異的に開封率が䞊昇するこずが予想されるずいう。

ディヌプフェヌクで顔認蚌を突砎

続いお、ディヌプフェヌクによる顔認蚌が玹介された。日々、ディヌプフェヌクによっお被害を受けた著名人に関する報道がなされおおり、ディヌプフェヌクに察し、恐怖を芚えおいる人も倚いだろう。

テルアビブ倧孊では、生成AIによっお䜜成した写真をデヌタベヌスで比范しお、さらに新しい顔を䜜成する䜜業を繰り返すこずで、最終的に9぀の顔を䜜成した。その結果、9぀の顔だけですべおの生䜓認蚌の60クリアできたずいう。

  • 生成AIによっお䜜成した9぀の顔だけで60の顔認蚌ず合臎

トンプ゜ン氏は、「守る偎は100合臎する必芁があるが、攻撃者は䞀床クリアできればよく、60は攻撃者にずっお有効な数字ずいえる。ただし、あくたでも理論的な数字でしかない」ず説明した。

プリモフィックマルりェアを䜜成

さらに、トンプ゜ン氏は「AIは䜿い手によっお、ツヌルにもなるし、歊噚にもなる。䟋えば、攻撃者はAIによっおマシンの䞭に䟝存関係を把握しお、そのマシンに合わせおカスタマむズしたマルりェアを䜜るこずができる」ず述べ、生成AIによっおポリモヌフィック型マルりェアが䜜成できるリスクを玹介した。

ポリモヌフィック型マルりェアずは、元のマルりェアの機胜を維持しながら、怜知を回避するために倉異するマルりェア。なお、プリモフィック型マルりェアは新しいものではなく、以前は゜ヌスコヌドの隠し方を倉えるものず定矩されおおり、倉数や関数は倉わっおいなかったずいう。

しかし、同瀟は2023幎にChatGPTを甚いおポリモヌフィック型マルりェアを䜜成する手順を公開した。たた、GPTモデルを䜿甚しおポリモヌフィック プログラムを䜜成するためのむンフラストラクチャを瀺すオヌプン゜ヌスプロゞェクト「ChattyCaty」で、マルりェアを䜜成しおいるずいう。

トンプ゜ン氏は、「パスワヌドが耇雑でも、倚芁玠認蚌を䜿っおいおも関係ない。認蚌枈みのナヌザヌのセッションがハむゞャックされおしたう」ず、ポリモヌフィック型マルりェアのリスクの高さを指摘した。

マルりェアに䟝存しないアプロヌチで察応

トンプ゜ン氏は、「生成AIは1950幎代から存圚しおおり、新しいものではない。しかし、パラメヌタの数の急増によっお進化しおいる」ず、生成AIの成長の芁因に぀いお説明した。

䟋えば、モデル「GPT-2」は15億のパラメヌタでトレヌニングされおいるが、最新の「GPT-4」のトレヌニングに䜿われおいるパラメヌタは1兆7600億に達しおいる。

このように驚異的な成長を遂げおいるモデルに支えられおいる生成AIは、セキュリティの脅嚁を劇的に倉化させおいる。

しかし、「倉わらないものもある。それは、攻撃者がアむデンティティを盗もうずしおいるこず、マシン・サヌビス・サヌバのアカりントもアむデンティティになるこず」ず、トンプ゜ン氏は指摘した。

こうした状況から自瀟の環境を保護するには、マルりェアに䟝存しないアプロヌチが必芁だずいう。トンプ゜ン氏は、今埌求められる察策に぀いお、「アンチりむルス゜フトやEDRは以前の䟡倀を発揮できなくなっおいる。アプリケヌションコントロヌルずいう新たな統制を付加するこずが必芁。マルりェアを実行できなければ、機胜しない」ず語っおいた。