“制限なしChatGPT"を開発する犯罪者、生成AIを悪用するサイバー攻撃が流行

米OpenAIが開発・提供する「Chat(チャット)GPT」をはじめとした生成AIが社会に急速に浸透している。世界中の人々が劇的な業務効率化に成功し、あらゆる可能性に夢を膨らませている一方で、この革新的な技術の「負の側面」も見えてきた。それは、サイバー犯罪への悪用だ。

「出力制限のないChatGPTをサイバー攻撃者自らが開発し、その能力を販売し始めている」ーー。サイバーセキュリティの分野で20年近くの経験を持つNTTデータグループ エグゼクティブセキュリティアナリストの新井悠氏は、こう注意を促す。

NTTデータグループは12月15日、「2023年サイバーセキュリティ動向総ざらい」と題した説明会を開催。本稿では、同説明会で触れられた生成AI悪用事例について解説する。

• NTTデータグループ 技術革新統括本部 システム技術本部 サイバーセキュリティ技術部 エグゼクティブセキュリティアナリスト 新井悠氏(12月15日、東京都江東区)

ChatGPTの制限をかいくぐる「ジェイルブレイク(脱獄)」