米CrowdStrikeはこのほど、AIシステムを脅威から守るレッドチームサービス「CrowdStrike AI Red Team Services」の提供を開始した。同サービスは、欧州で初めて開催されたユーザー向けカンファレンス「Fal.Con Europe」で発表された。

同サービスでは、クラウドストライクの脅威インテリジェンスと攻撃手法に関する専門知識を活用して、大規模言語モデル（LLM）などのAIシステムの脆弱性をプロアクティブに特定する。

CrowdStrike AI Red Team Servicesが提供するサービス

CrowdStrike AI Red Team Servicesは、OWASP（ Open Worldwide Application Security Project ） Top 10 for LLM攻撃手法に沿って、AIシステムの脆弱性を攻撃者に悪用される前にいち早く特定し、新たな脅威から守る。

具体的には、LLMやLLM統合をはじめとするAIシステムを対象に、包括的なセキュリティ評価を行い、データ漏えい、不正コードの実行、アプリケーションの不正操作につながる脆弱性や設定ミスを特定する。

最も可能性が高い脅威に対しては、システムをテストできるよう、AIアプリケーションごとに最適な攻撃シナリオを用いる。