米IBMは6月18日(現地時間)、AIエージェントの組織全体への拡大に対応するため、AIセキュリティチームとガバナンスチームが連携して企業のリスク態勢を統合的に監視できるソフトウェアを発表した。

新機能を追加したソフトウェアの概要

今回、IBMの「watsonx.governance」と「Guardium AI Security」を強化・統合した新機能により、エージェントを含むAIシステムのセキュリティと信頼性を確保しながら大規模な環境で運用できるよう顧客を支援する。

watsonx.governanceはエンドツーエンドのAIガバナンスツールであり、Guardium AI SecurityはAIモデル、データ、使用法を保護するツール。2つのツールを強化・統合し、AIのユースケースに関連するセキュリティとガバナンスのリスクを管理できる統合ソリューションを企業に提供する。

「watsonx.governance Compliance Accelerators」は、世界中の規制、基準、フレームワークの中から厳選されたものをあらかじめ搭載して提供するため、ユーザーは自らのAIユースケースに関連する規制を特定してマッピングできる。

主要な規制として、EU AI規則、米国連邦準備制度理事会(FRB)のSR 11-7、ニューヨーク市地方条例144などに加え、ISO/IEC 42001などのグローバル基準、NIST AI リスク・マネジメント・フレームワーク(AI RMF)などが含まれ、すでに追加機能として利用が可能。

さらに、AllTrue.aiとの協業を通じてGuardium AI Securityに新機能を導入。クラウド環境、コードリポジトリ、組み込みシステム内で新たなAIのユースケースを検出する機能などを追加し、分散化が進むAIエコシステムに広範な可視性と保護を提供する。脅威を特定すると、Guardium AI Securityはwatsonx.governanceから適切なガバナンスワークフローを自動で起動するという。

  • 「IBM Guardium AI Security」のイメージ

    「IBM Guardium AI Security」のイメージ

また、Guardium AI Securityの最新のアップデートには自動レッドチーミングも搭載されているため、企業はAIユースケース全体の脆弱性や設定ミスの検出と修正を実施できる。加えて、コードインジェクション、機密データの暴露、データ漏洩などのリスクを軽減するため、入力/出力両方のプロンプトを分析するカスタムセキュリティポリシーも定義が可能。現在、Guardium AI Securityで利用可能となっているこれらの機能とwatsonx.governanceの統合は、今年末までに展開を予定している。

watsonx.governanceでは、開発からデプロイまでのライフサイクル全体でAIエージェントを監視、管理できるようになり、評価ノードをエージェントに直接組み込むことができるためユーザーは回答の関連性、コンテキストの関連性、忠実性などのメトリクスを注意深く監視し、パフォーマンス低下の根本原因を特定できる。

今後、計画されている機能にはエージェントのオンボーディングリスク評価、エージェントの監査証跡、エージェントツールカタログなどがあり、これらは米国時間の6月27日から利用可能になる予定だ。