チェック・ポイント・リサーチ（CPR）は7月28日、Googleが開発・公開した生成AIプラットフォーム「Bard」を分析し、サイバー犯罪者の悪意ある行為を可能にする複数のシナリオを明らかにした。OpenAIの言語モデル「ChatGPT」との比較分析を通じ、Bardに関する懸念を報告している。

  • フィッシングメールの具体例の提供を求めるとChatGPTは拒否した一方、Bardは特定の金融サービスを装うフィッシングメールを提供した

    フィッシングメールの具体例の提供を求めるとChatGPTは拒否した一方、Bardは特定の金融サービスを装うフィッシングメールを提供した

CPRは、Bardプラットフォームを悪意ある目的での使用可能かどうか確認すること、そして悪意あるコンテンツの作成という観点からGoogle BardとChatGPTを比較することの2つを目標に分析した。

まず、フィッシング・メールの作成というリクエストを試みたが、ChatGPTとBardの双方に拒否されたという。次にフィッシングメールの具体例の提供を求めたところ、ChatGPTがリクエストを拒否した一方、Bardは特定の金融サービスを装う非常に出来の良いフィッシングメールを提供したという。

次に、本物のマルウェアコードを書くように依頼したところ、どちらのAIモデルもこれを拒否。この要求を正当化する理由を提示した再試行でも、いずれのプラットフォームからも相手にされなかったという。ChatGPTは特に詳細な説明を提示したのに対し、Bardは短く一般的な答えを返したという。

続いて、汎用のキーロガーのコードをリクエストしたところ、両モデルの対応に差が表れた。ChatGPTはより厳しい制限のもとリクエストを潜在的に悪意あるものと識別した一方で、Bardは無造作にコードを提供したという。

最後に、キーロガーのコードを書くように求める同じリクエストについて、より具体的に「キーロガーが“私の”キーストロークを記録するように」と要求した結果、ChatGPTは悪意ある目的に使用する可能性に関するある種の免責事項を付け加えたものの、いずれのモデルも同じ目的を持つ異なるコードを提供したという。

また、Bardによるランサムウェアコードのオンデマンド生成に関して、具体的な説明のない率直なリクエストをしたが、Bardは要求に取り合わずスクリプトも提供しなかった。そこで異なるアプローチを試み、最初にランサムウェアが実行する最も一般的なアクションについての説明を求めたところ、功を奏したという。次に、Bardの回答をコピー＆ペーストすることでそのようなコードの作成を要求したが、リクエスト通りのスクリプトは得られなかった。

そこで、リクエストを若干具体化して再挑戦したところ、要求した行動は最小限でスクリプトの目的も非常に明確であったにも関わらずBardは協力的になり、要求されたランサムウェアのスクリプトを提供したという。以降、スクリプトの修正にGoogle Bardの助けを借りながら、ほぼ全ての目的をこのコードで実現できるようになった。すわち、Bardの助けを借りて修正し、追加機能と例外処理を加えた結果、実際に正しく動作するスクリプトを入手できたという。

  • Bardの助けを借りて修正し、追加機能と例外処理を加えた結果、実際に正しく動作するスクリプトを入手できた

    Bardの助けを借りて修正し、追加機能と例外処理を加えた結果、実際に正しく動作するスクリプトを入手できた

CPRはBardに関した、Bardのサイバーセキュリティ領域における不正使用防止の制限条項はChatGPTに比べ著しく低く、Bardの機能を用いた悪意あるコンテンツの生成は大幅に容易である、Bardはフィッシングメールの作成に関して制限がまったく課されておらず、この技術の誤用や悪用の可能性がある、Bardは最小限の誘導によってキーロガーマルウェアの開発に利用できセキュリティ上の懸念があるという見解を示した。また、CPRの試みによりBardの機能を用いた基本的なランサムウェアの作成が可能であることが判明した。

CPRは、BardがChatGPTが実例となったサイバー分野での不正使用防止規制の教訓から十分に学んでいないようだとし、Bardが持つ既存の制限は基礎的なもので、ChatGPTが始動した数カ月前の段階での規制と類似していると指摘する。これを足掛かりとし、Bardプラットフォームが必要な諸々の制限およびセキュリティ境界を受け入れることが望まれるとしている。