Bleeping Computerは2月1日(米国時間)、「Google says hackers abuse Gemini AI to empower their attacks」において、国家支援を受ける持続的標的型攻撃(APT: Advanced Persistent Threat)グループが生成AIをサイバー攻撃の生産性向上に悪用したと報じた。

この件ははGoogleの脅威インテリジェンスグループ(GTIG: Google Threat Intelligence Group)により報告された。Googleは自社のAIアシスタント「Gemini」が悪用されたとして、その概要を明らかにしている(参考：「Adversarial Misuse of Generative AI | Google Cloud Blog」)。

  • Google says hackers abuse Gemini AI to empower their attacks

    Google says hackers abuse Gemini AI to empower their attacks

Geminiの悪用

GoogleによるとGeminiを悪用した組織は、イラン、中国、北朝鮮、ロシアの国家支援を受けたAPTグループだという。悪用の方法はそれぞれ異なり、Googleはその概要を次のように伝えている。

イランのAPTグループ

Geminiを最も多く悪用した脅威グループはイランのAPTグループとみられる。その利用の幅は広く、防衛や外交関係の偵察、既知の脆弱性調査、フィッシングキャンペーンの開発、影響力を拡大するためのコンテンツ作成などに使用した。また、無人航空機(UAV: Unmanned Aerial Vehicle)、ミサイル防衛システムのサイバーセキュリティなど、軍事情報の翻訳および技術解説にも使用したとされる。

中国のAPTグループ

中国のAPTグループは主に米国の軍事組織および政府機関の偵察、既知の脆弱性調査、ネットワークの横方向の移動および権限昇格スクリプトの作成、検出の回避およびネットワーク内の永続性確保などに使用した。また、Microsoft Exchangeに不正アクセスする手法、エンドポイント検出応答(EDR: Endpoint Detection and Response)ソリューションのVMware Carbon Blackをリバースエンジニアリングする手法の調査にも使用したとされる。

北朝鮮のAPTグループ

北朝鮮のAPTグループは無料のホスティングプロバイダーの調査、標的組織の偵察、マルウェアおよびセキュリティ回避技術の開発などに使用した。活動の目的は自国のIT技術者を西側企業に就職させることにあるとされ、偽の履歴書、応募書類(カバーレターを含む)の作成にも使用した(参考：「日本人になりすました北朝鮮IT技術者を日本企業が雇用、採用に注意を | TECH+（テックプラス）」)。

ロシアのAPTグループ

ロシアの悪用は他のAPTグループと比較して少なく、スクリプトの作成支援、翻訳、ペイロードの開発に用いられた。ペイロードの開発では既知のマルウェアを他のプログラミング言語に移植するほか、暗号化機能の追加、機能の分析などに用いられた。

それほど悪用されていない理由としては、ロシア国内で開発された生成AIの人気が高いか、またはセキュリティ上の理由から西側諸国の生成AIの利用を回避していることが推測されている。

生成AIのセキュリティ対策の現状

GoogleによるとGeminiには強力なセキュリティ対策が施されており、悪用は制限されたという。特に、フィッシング、データ窃取、Chromeからの情報窃取などの開発、Googleアカウントの検証回避、Google製品の悪用などは阻止したという。

しかしながら、近年は中国が開発したとされる生成AIソリューションが急成長している。これら生成AIには必要なセキュリティ対策が欠如しており、プロンプトインジェクションにより悪用が可能とされる。

この不具合の理由が故意なのか、技術力不足なのかわからないが、脅威アクターの能力向上には役立てることができる。また、Bleeping Computerはこれら生成AIの人気が高まっていると指摘しており、残念ながら生成AIを取り巻くセキュリティ環境の見通しは明るくない。