AIによる偽・誤情報やリスクに対する国際コンソーシアム「Frontria」創立

富士通は12月2日、生成AIの急速な進化による偽・誤情報拡散やAIシステムの脆弱性、法規制への準拠といった課題やリスクに対し包括的なアプローチで対応するため、国際コンソーシアム「Frontria」を創立したことを発表した。

コンソーシアムでは世界から50以上の組織が参画して最先端の技術や知見を結集し、情報の信頼性を確保することで健全でレジリエンスの高い情報社会の実現を目指す。参画組織が技術や課題、ニーズを持ち寄り、アイデア創出の場を提供するとともに、国際的な視点からのリスク対応と変革を推進する。

「Frontria」活動のイメージ

コンソーシアム創立の背景と目的

近年の生成AI技術の飛躍的な発展が社会に大きな利益をもたらす一方で、AIが生成するコンテンツを悪用した偽・誤情報の拡散やAIシステム自体の脆弱性など、新たな課題やリスクも顕在化している。

また、EU AI Act（欧州AI規制法）に代表されるように、AIの信頼性（AIトラスト）とセキュリティの確保、そしてこれらに対する法規制への準拠が課題とされる。2023年には、偽・誤情報の影響で12.2兆円もの経済損失が出ているとの調査報告があり、さらに企業には法令違反による罰金やサイバー攻撃によるビジネス機会の損失といった経済的なリスクに対しても早急な対応が求められている。

これらの複雑な問題は一企業や一国の努力だけでは解決が困難であり、技術開発から社会への適切な活用、および普及まで、幅広い分野からの知見と協調が不可欠となる。そこでコンソーシアム「Frontria」では、偽・誤情報対策、AIトラスト、AIセキュリティに焦点を当て、業界の課題やニーズ、ユースケースの検討によって技術を深化させ、コミュニティ活動を通じてアプリケーションやサービスを創出する。また、普及のためのビジネスモデルの確立を目指す。

コンソーシアムの活動内容

コンソーシアムでは各業界の課題やユーザーニーズ、ユースケースを提供するイノベーションパートナー、ユーザーからのアイデアをもとに技術を磨く技術IP（コア技術）プロバイダ、学習データを提供するデータプロバイダ、アプリケーション開発やユーザーへの導入支援を行うエンジニアリングパートナー、資金および運営環境を提供するインキュベータが集い、新たなアイデアを創出できる技術プールを軸としたグローバルコミュニティを構築する。

創立時は偽・誤情報対策、AIトラスト、AIセキュリティの3つのコミュニティグループを設置する。例えば偽・誤情報対策のコミュニティグループにおいては、金融、保険、メディア、エンターテイメント、リーガルやAI事業など、業界ごとのワーキンググループを設置する。

ワーキンググループではユースケースを検討し、技術IP（コア技術）、アプリケーション、データを適用した結果をプレーヤーにフィードバックすることで、技術やサービス、事業の質を高める。

さらに、全ワーキンググループの参加者間でのノウハウや知見の共有、技術コンペの開催などを行う開発者コミュニティを設置し、この活動を通じてコア技術の開発加速と価値向上を目指すという。