Citadel AIは10月2日、三井住友銀行に対し、生成AIの安全・安心な活用拡大を支援するAIガバナンスソリューションを提供すると発表した。三井住友銀行は同ソリューションを活用し、リスク検証の標準化や継続的なモニタリング、ガードレール機能を備えた共通基盤の整備を進める。

生成AIのリスク検証を標準化し共通基盤を整備

三井住友銀行では生成AIに関するリスクを統一的に評価するため、全社共通の評価指標やテストデータの整備を進めている。この取り組みに対し、Citadel AIは生成AIの入出力制御に関する知見を提供し、評価基準や検証シナリオの具体化を支援する。さらに、AIアプリケーションのリリース前から継続的にリスクを検証する、一元的な運用プロセスの構築にも参画するという。

同ソリューションの提供を通じて、三井住友銀行における全社的なAIガバナンスの高度化と、生成AI活用に伴うリスク管理の実効性向上を支援するとしている。

稼働中のAIアプリケーションをリアルタイムで監視・制御

提供されるソリューションには、稼働中のAIアプリケーションに対するリアルタイム監視・制御機能も含まれる。プロンプト入力や生成された回答を監視し、機密情報を引き出そうとする有害な入力や、安全性に欠ける不適切な回答を即時に検知する。検知後はブロックやアラート通知につなげる仕組みだ。

Citadel AIによると、これらの機能は三井住友銀行が進めるAIリスクの継続的な検証と、ガードレール基盤の整備に活用されるという。