Check Point Software Technologiesは11月14日(米国時間)、「Navigating the Terrain: GPT's Journey into Malware Analysis - Check Point Blog」において、OpenAIのChatGPTがマルウェア解析に活用できるかについて挑戦したとして、その調査結果を伝えた。
-
Navigating the Terrain: GPT's Journey into Malware Analysis - Check Point Blog
Check Pointは、ChatGPTの強みについて「適切な単語とその配置を決定する優れた言語思考にある」と説明。この強みにより、適切な答えが学習データに存在した場合、ChatGPTは答えを脅威的な速度で再現できるという。ランサムウェア「GandCrab」のレポートを求めると、ChatGPTは難なく回答し、デモさえ行うことができたことを明らかにしている。
また、ChatGPTが確実に実行できると信頼されるタスクの一つに「全体像の概要」を生成する処理がある。ChatGPTは人間にとって大きすぎる入力が与えられたとき、有用な要約を生成できるとしている。しかしながら、これら処理は膨大な知識から適切な回答を探し出すことに長けていることを示す反面、知識を理解して応用できることを意味しているわけではない。ChatGPTは知識のより深い理解を必要とする処理において課題があり、これはChatGPTによるマルウェア解析においても同様だったとのことだ。
Check Pointは、ChatGPTに良性のバイナリと悪性のバイナリを分類する処理を求めたところ、期待した回答が得られず課題に直面。これら課題を克服するために、分類実験から課題を多数収集し、次のようなChatGPTの主要な課題のリストを作成している。
- メモリウィンドウのドリフト
- 知識と行動のギャップ
- 論理的推論の限界
- 専門知識からの逸脱
- 目標の方向性
- 空間の失認
Check Pointはこれら課題を克服するため、ChatGPTの解析と緩和策を模索。その結果、高度に設計された入力を与えることでChatGPTの機能の向上を実証できたとし、具体的な例として次のようなChatGPTによる分類処理のデモを公開している。
上記のデモのようにChatGPTをマルウェア解析に活用するには、ChatGPTの特性に合わせて高度に設計された入力を与える必要があり、誰でも簡単に活用できるものではないことがわかる。しかしながらCheck Pointは、これら課題の緩和策の模索がChatGPTの可能性を強化することにつながり、人工知能(AI: Artificial Intelligence)とサイバーセキュリティの相乗効果による将来の進歩に寄与するとコメントしている。
