マクニカ、脱獄の最新手法などChatGPTを悪用したサイバーリスクを解説

マクニカは4月21日、「ChatGPTを悪用したサイバーリスク」をテーマにしたメディア向けの勉強会を開催した。

本来はChatGPTが回答できない内容を強引に引き出す「ChatGPT Jailbreak(脱獄)」の最新手法や、ChatGPTを企業のシステムに組み込んだ際に想定されるリスクが勉強会では解説された。

ランサムウェアのサンプルコードも出力可能

サイバー攻撃者によるChatGPTの悪用では、「フィッシングメールに代表されるソーシャルエンジニアリングのための文章作成」と、「マルウェア開発のためのコード生成」という2つのケースが考えられるという。

ChatGPTはOpenAIが定めたポリシーに基づいて運用されているため、基本的には法律や倫理に反するアウトプットは行えない。