損保ジャパン×ロバストインテリジェンス、先進的な生成AIリスク対策を語る

2023年12月1日、「2023ユーキャン新語・流行語大賞」の表彰式が行われ、阪神タイガースの岡田監督の「アレ(A.R.E)」が大賞に輝いた。そのほかにも「ペッパーミル・パフォーマンス」や「蛙化現象」など、2023年に日本を沸かせた言葉がラインクインする中、「生成AI」という言葉も上位10位に入選した。2023年は、企業にとって生成AIと向き合う1年になったことだろう。

これだけ生成AIが世に浸透してきた現在、次に考えるべきなのは「生成AIがもたらすリスク」ではないだろうか。Akamaiが、同社のトレンド予測内で「ランサムウェア攻撃において、攻撃者はFraudGPTやWormGPTなどのプログラムを通じて生成AIを攻撃に悪用している」と記載している通り、生成AIを悪用したサーバ攻撃が増加している。

このような外部からのリスクに加えて、AIにおける「ハルシネーション」の存在も危険視されている。ハルシネーションとは、AIが事実に基づかない「もっともらしい嘘」を生成してしまう現象のことで、AIの回答を鵜吞みにしてしまうと事実とは大きく異なった認識をしてしまうことも起こりうる。

今回は、AIのリスク対策に知見を持つ、損保ジャパン DX推進部 開発推進グループリーダーの石川隼輔氏とロバストインテリジェンス 日本技術責任者の松本崇宏氏に「AIリスク」について話を聞いた。

• 左から損保ジャパン DX推進部 開発推進グループリーダーの石川隼輔氏、ロバストインテリジェンス 日本技術責任者の松本崇宏氏

損保ジャパンとロバストインテリジェンスの共同プロジェクト

今回、話を聞いた損保ジャパンとロバストインテリジェンスは、2023年8月から生成AIを活用した業務システムのリスク評価テストを開始している。ＳＯＭＰＯホールディングスとロバストインテリジェンスがAIの信頼性確保に向けたガイドラインの策定とリスク管理体制の構築のために業務提携を行い、実際のAIリスク評価の対象として、中核会社である損保ジャパンの開発中のシステムが選定された形だ。

この業務提携の背景について石川氏は以下のように語る。

「現代社会におけるAI技術の進歩は目覚ましく、生活者や企業活動における生産性の向上や意思決定スピードの強化など、さまざまな好影響をもたらしています。損保ジャパンでも、生成AIや音声認証、画像認識といった最先端のAI技術を活用して、さまざまな事業展開を進めています。一方で、AI活用に際しては品質や倫理、セキュリティといったさまざまな観点でのリスクが発生します。損保ジャパンにおいても自社のAIサービスの信頼性確保のため、AIリスクを適切に管理し、利用者に対する透明性を確保することが課題となってきました」(石川氏)

• 損保ジャパンとロバストインテリジェンスの共同プロジェクトの背景を語る石川氏

そして、このような課題を解決するために共に立ち上がったのが、2019年にハーバード大学の研究者たちによって創業されたシリコンバレー発のAIスタートアップであるロバストインテリジェンスだった。