AIを悪用したサイバー攻撃にいかに対処すべきか

AIを悪用したサイバー攻撃が、企業における新たな課題として取り沙汰されることが増えている。では、AIを悪用したサイバー攻撃にはどのようなものがあり、攻撃者にとってどれくらい現実的なものなのか。また、サイバーセキュリティの担当者はどのような対策をすべきなのか。

本稿では、EGセキュアソリューションズ 取締役 CTO / 情報処理推進機構（IPA）非常勤研究員 / 技術士（情報工学部門）の徳丸浩氏に、AIを使ったサイバー攻撃の概要や主な手口、有効な対策などについて話を伺った。

• 

  EGセキュアソリューションズ 取締役 CTO / 情報処理推進機構（IPA）非常勤研究員 / 技術士（情報工学部門） 徳丸浩氏

AIを悪用したサイバー攻撃とは

AIを使ったサイバー攻撃としては、大きく、AIを組み込んだシステムが攻撃を仕掛ける「AI主体」のパターンと、攻撃者が攻撃プロセスのどこかでAIを使用する「人間主体」のパターンが考えられる。徳丸氏によると、「現状ではAIが主体的に何かを攻撃することはほとんどないが、攻撃者がさまざまなかたちでAIを使うケースは存在する」という。

ディープフェイクでなりすます

攻撃プロセスでAIが利用される最初の例として挙げられたのは、「ディープフェイク」の悪用である。ディープフェイクとは、AIで人物の画像・動画や音声などを人工的に合成する技術だ。本来、映画などエンターテインメント分野で活用される技術だが、これを悪用して「政治家・有名人に虚構の発言をさせることで、詐欺行為を働くなどの犯罪行為が増えている」（徳丸氏）という。

フィッシング文面の生成

続いて、より簡単な例として挙げられたのが「フィッシング詐欺の文面作成」である。フィッシング詐欺とは、メールやショートメッセージなどから偽物のWebサイトへ誘導し、個人情報などを盗み出す手口を指す。

従来、フィッシング詐欺を見抜く最大のポイントになっていたのが、文面の不自然さである。攻撃を仕掛けるのは外国人の場合が多く、「送られてくる文面は日本人からすると違和感のあるものがほとんどだった」（徳丸氏）が、文面の翻訳・作成をAIが担うことで、日本語の不自然さがなくなり、より騙されやすい状況になっている。また、企業向けのフィッシング詐欺の場合、「ターゲット企業の情報をAIに読み込ませ、その企業に合った内容のメールを生成するといった手口も考えられる」（徳丸氏）そうだ。

マルウェア・攻撃スクリプトの生成

3つ目は、プログラムの生成だ。

一般的なプログラミングに生成AIが活用されている状況を踏まえると、マルウェアや攻撃用スクリプトなどの悪意あるプログラムにも利用されることは容易に想像できる。

ただし、各種生成AIには、セキュリティ等の観点から、悪用を防ぐための制約機能が組み込まれている。攻撃者が活用するためには、その制約を回避する必要がある。また、AIも万能ではないため、動作可能なプログラムを一発で出力することは難しい。

サイバー攻撃が分業化され、攻撃用ツールキットなどがSaaS形式で提供されていることを踏まえると、生成AIでプログラムをつくることは決して効率的な行為とは言えないかもしれない。しかし、生成AIの進歩は目覚ましく、今後悪用が増えてくる可能性は高い。

• 

攻撃者側はAIをどのように用いるのか

先ほど挙げた悪用の例のうち、今後、最も応用が利きそうなのはプログラムの生成だろう。では、悪意あるプログラムの作成に生成AIはどの程度有効なのだろうか。

AIジェイルブレイクでランサムウェアはつくれるのか?

徳丸氏は自身でさまざまなAIとの応答をテストした感触として、「特別なジェイルブレイク技術がなくても、悪意がないような指示の出し方をすることでAIを悪用できてしまう」と指摘する。

同氏のテストでは「サイバー攻撃する方法を教えてください」や「脆弱なソースコードを作成してください」といった直接的な指示を出した場合、AIは生成を拒否した。一方で、その指示の内容を要素分解し、ステップを踏んでリクエストを出すと、結果的に悪意のある行為につながるような回答を得ることも可能だったという。

「例えば、AIに『ランサムウェアをつくって』と言ってもつくってはくれません。しかし、『パソコンのファイルを一括して暗号化したい』と言えば、それ自体は通常業務でもあり得る作業なので方法を教えてくれます」（徳丸氏）

テストでは、まずランサムウェアの概要を生成AIに聞き、そこから話を広げて、ファイルを暗号化する方法、公開鍵での暗号化技術へと発展させ、その実装例をリクエストすることで攻撃につながりそうな出力を得たそうだ。ただし、出力を得るまでには意図的な誘導が必要で、セキュリティの専門知識が求められたという。

• 

Webサイトの攻撃スクリプトをAIが生成できるのか?

また、徳丸氏はWebサイトへの新しい攻撃手法を確認するために、生成AIによりスクリプトの作成を試したこともあったという。

その際、攻撃に関連するプロダクトに詳しくなかったため、AIで情報収集しながらプログラムを生成。しかし、この攻撃に必要な特徴的技術をAIが発見できることはなく、利用者側で誘導と修正依頼を繰り返すことで、ようやく目的に近いプログラムが出力されたそうだ。

以上を踏まえて同氏は「AIを使うことで新しい攻撃が生まれたり、素人でもサイバー攻撃ができるようになったりするわけではない」と指摘。そのうえで、「知見のある人が作業を効率化することは可能」との見解を示す。

「一般的なITエンジニアと同様、攻撃者側もAIを活用しているのは間違いないでしょう。便利な道具は正当な目的にも、悪意を持った目的にも使われるのです」（徳丸氏）

国内でのジェイルブレイク事例

実際、2024年5月には、国内の男性が生成AIを使用してランサムウェアを作成した容疑で逮捕されている。男性はIT分野の専門知識がなかったと報道され、セキュリティ関係者の間で衝撃が走った。

この事件について徳丸氏は「攻撃に有効なランサムウェアをつくるとなると複雑な処理が必要になるので、おそらく生成されたランサムウェアは動作するまでには至っていないのではないか」との見解を示す。それでも、プログラムスキルのないユーザーがある程度のものをつくり出したことに違いはなく、ひと昔前では考えられない事件と言える。

AIを悪用したサイバー攻撃への対策

では、AIを悪用したサイバー攻撃に対して、どのような対策が考えられるのか。

徳丸氏はこの点について、「前述のとおり、AIの進化により攻撃者側の効率が上がっただけであり、攻撃の原理が変わったわけではない」と説く。つまり対策としては、これまで通り、各種IT機器のソフトウェアをアップデートする、マルウェア検知などの必要なセキュリティソフトを導入する、バックアップをとる、アクセス権限を管理するなど、基本的な対策を徹底することが大切だ。

また、昨今では防御側、すなわち各種のセキュリティソリューションもAIが組み込まれている。AIを使って不正アクセスや脆弱性を検知するような機能がその例だ。ただし、同氏は、「こうした機能によって、誤検知が劇的に減った、脆弱性がなくなったかと言うと、まだそういう状況ではない」と指摘。サイバー攻撃を監視するSOCオペレーターについても、「まだまだ現状は人海戦術」だとした。

それでも、技術の進歩は目覚ましく、「今後、脅威の一次切り分けをするオペレーターはAIにとって代わられる可能性がある」という。生成AIにより、セキュリティの現場が徐々に変わっていくはずだ。

*　*　*

AI技術の進化に伴い、AIを使ったサイバー攻撃も増加している。しかし、攻撃そのものが大きく変化しているわけではない。徳丸氏の話からは、改めて基本に立ち返り、当たり前の対策を着実に実施していくことの重要性を再認識できた。

•