NECは9月13日、総務省「インターネット上の偽・誤情報対策技術の開発・実証事業」の採択の一環として、AIを活用してインターネット上の情報の真偽を多面的に分析し、ファクトチェックを支援する偽・誤情報分析技術の開発を開始することを発表した。

開発した技術は、日本ファクトチェックセンターなどのファクトチェック機関や放送局をはじめとするマスメディアにおいて有効性の検証を行い、精度向上を目指す。なお、今回の実証事業の期間は2024年8月から2025年3月まで。

  • 開発技術のフレームワーク

    開発技術のフレームワーク

開発技術のフレームワーク

昨今、インターネットにおける生成AIや編集ツールによる偽・誤情報の氾濫が社会問題になっており、対策技術に注目が集まっている。

また、ファクトチェック機関や信頼性の高い情報を発信する責務を有するマスメディアなどでは、真偽判定ならびに判定結果にかかるレポート作成に多大な工数を要しており、業務の負担が課題となっている。

今回、NECではLLM(大規模言語モデル)など最先端AIを活用し、コンテンツの真偽分析・判定とレポート作成を行うファクトチェックを支援する技術を開発することで、偽・誤情報分析業務の効率化を目指す。

技術の概要

今回、開発する技術は複数種類のデータ(テキスト、画像、動画、音声)で構成されるコンテンツが偽・誤情報か否かをAIで分析し、その内容の真偽を分析するもの。

具体的には「画像などが生成・加工されていないかの検知」「複数種類のデータをAIで認識してテキスト化」「認識したテキストの内容が正しいか」「出典がある情報かどうか」「データ間の矛盾(テキストと動画の内容が食い違っているなど)がないか」などを偽情報分析に特化したLLMで評価することで真偽を総合的に判定する。

また、ファクトチェック機関の専門家が作成する報告書や記事に近い形式でレポートを作成し、信頼性の低い根拠の削除や新たな根拠として情報を加えるなど、分析者の指示に応じた調整を可能とすることで、ファクトチェック業務の容易化・効率化を目指す。

今後、開発した技術は日本ファクトチェックセンターなどのファクトチェック機関や放送局をはじめとするマスメディアにおいて実用性を検証し精度の向上などを行い、実用化を目指す。また同技術は防災をはじめさまざまな業界での応用も検討していく構え。