トレンドマイクロは7月23日、プライベートイベント「2024 Risk to Resilience World Tour Japan」を開催した基調講演では、同日に発表した「AI×セキュリティ戦略」の詳細が明らかにされた。

AIから逃れられない時代のセキュリティの到来

トレンドマイクロ 取締役副社長 大三川彰彦氏は、「今日は、AIとセキュリティが作り上げる未来を体験する1日。リスクをコントロールし、レジリエンスにつなげる。われわれのビジョンは35年間変わらない。ビジョンは2つある。1つは、真の競争相手は競合ではなく、攻撃者と捉え、攻撃者より先に行くこと。もう1つは、ユーザーの環境で安全に提供する製品を提供し続けること。サイバーレジリエンスの両輪として、これらを35年続けてきた」と語った。

  • トレンドマイクロ 取締役副社長 大三川彰彦氏

そして、大三川氏は「2024年は、AIの登場により新たな局面を迎えており、5つのリスクを考慮する必要がある」と指摘した。5つのリスクとは、以下5点だ。

  • AIを使わないことによる脅威
  • AIを使うことによる脅威
  • AIが狙われることによる脅威
  • AIが生み出す脅威
  • AIの法規制による脅威

「自社が使わなくても他社が使い、防御側が使わなくても攻撃側が使う。AIを活用するしかない。AIから逃れられない時代が来ている」と、大三川氏は訴えた。

さらに、大三川氏は「これからは、ＡＩ活用することを考えなければならない。われわれはAI時代のサイバーリスクコントロール、レジリエンスで継続的に新しい世界を享受することを提示したい」と語った。

AI×セキュリティ戦略の柱：「Security for AI」と「AI for Security」

トレンドマイクロは同日、AI×セキュリティ戦略を発表した。同戦略の下、AIを悪用するサイバー攻撃から保護する「Security for AI」、AIを活用したセキュリティを提供する「AI for Security」を推進する。

  • AI×セキュリティ戦略の概要

上席執行役員 日本地域ビジネス統括 新井一人氏は、「現在、膨大なデータの処理が求められており、ここでAIが必要となる。今後、AIは社会インフラにおいて重要な役割を果たしていくと考えられる。これから、AIの民主化が進み、AIがオプションの時代は終わる。ＡＩありきの時代になる」と述べた。

  • トレンドマイクロ 上席執行役員 日本地域ビジネス統括 新井一人氏

新井氏は、同社が2000年代から製品にAIを組み込んできたとして、その理由について、「攻撃者は常に最先端の技術を悪用するため、防御側も最先端の技術を使う必要がある」と説明した。

Security for AI

続いて、製品開発本部 シニアスタッフエンジニア 服部正和氏がAI×セキュリティ戦略の詳細を紹介した。服部氏は、LLM（大規模言語モデル）を活用したアプリケーションの構築のポイントとして、外部データを組み合わせて使うことを挙げた。今、外部データをLLMアプリケーションに組み込む手法として、RAG（検索拡張生成）が注目を集めている。

  • トレンドマイクロ 製品開発本部 シニアスタッフエンジニア 服部正和氏

ただし、RAGには生成特有のサイバーリスクがある。具体的には、「データ漏洩」「RAGデータポイズニング」「プロンプトインジェクション」「脱獄」「著作権侵害」などのリスクがある。

  • RAGが抱えている生成AI特有のサイバーリスク

こうしたリスクに対しては、アーキテクチャレベルで対策を講じる必要があるという。服部氏は、同社が提供しているTrend Vision OneのAIアシスタントサービス「Vision One Companion」のアーキテクチャでは、適切なロジックを選択する機能を提供していると説明した。質問に関連があるアプリケーションを選択し、質問の意図を確認することで、アプリを悪用するプロンプトをフィルタリングするという。加えて、AIプロキシで、個人情報のマスキング、ロギングなどを統合的に管理する。

服部氏は、リファレンスデザインにはゼロトラストのコンセプトを導入し、可視化がカギとなると述べた。これにより、ポリシーを実施可能となるという。

  • 生成AIセキュリティのリファレンスデザイン

AI for Security

一方AI for Securityとしては、企業がAIの活用によりセキュリティを向上し、自社のサイバーリスクをコントロールすることを支援する。

服部氏は、コロナ禍により働き方が変化するとともに、アタックサーフェスも多様化し、セキュリティのアラートが爆発的に増えていると指摘した。そこで、同社はビジネスリスク・マネジメントとSOCチームを支援する。

そのために、今年はAIを活用したソリューションを増やすという。服部氏は新製品のカギは「予測」と述べた。今年の第3四半期にはAIによる攻撃経路を予測するソリューションの提供が計画されている。さらに、2024年第4四半期以降は、マルウェア発生の可能性予測、将来のセキュリティポスチャの変化予測のソリューションを提供する予定としている。