AIにより生成されたフェイク顔映像の自動判定するプログラムをNIIが開発

国立情報学研究所(NII)は9月22日、「Deepfake(ディープフェイク)」といわれる、AIにより生成されたフェイク顔映像を自動判定するプログラム「SYNTHETIQ:Synthetic video detector」を開発したことを発表した。

また、同プログラムは判定対象となる映像のアップロードから、判定結果を示した映像をダウンロードするまでのすべてのプロセスをWeb APIとして利用可能であることも併せて発表された。

同成果は、NII シンセティックメディア国際研究センターの越前功センター長、同・山岸順一副センター長らの研究チームによるもの。

近年、顔、音声、自然言語などの人間由来のデータを大量にAIに学習させることで、本物と見紛う顔映像、音声、文章といった「シンセティックメディア」の生成が技術的に可能となり、エンターテイメント分野などでの社会を豊かにする活用方法が模索されているが、その一方で悪用される危険性も懸念されている。実際、すでに映像中に映りこんだ顔を他人の顔に置き換えたり、本来の発言内容とは真逆の内容に改ざんしたりするディープフェイク映像が、世界中で社会的な問題になっている。

こうした背景の下、研究チームはそうしたディープフェイク映像に対して真贋判定を行う深層学習モデルの研究を行ってきた。判定方法は、人間による分析などを一切必要としない、大量のデータに基づく自動識別手法を採用したことにより、圧縮やダウンコンバージョンなどのメディア処理が施されていても、一定の信頼度をもって判定を行うことが可能だという。

しかし同技術を利用するためには、複数の高度な深層学習技術を利用する必要があったことから、ほかのアプリケーションでの導入を容易化することを目的に、真贋判定を行う映像をサーバにアップロードし、判定結果が示された映像をダウンロードするまでの全プロセスをWeb APIとして利用可能なプログラムの開発を試みることにしたという。

それが今回開発された「SYNTHETIQ:Synthetic video detector」で、このWeb APIを活用することで、AIを活用したWebサービス「AIaaS(AI as a service)」を容易に実現することが期待されると研究チームでは説明している。

また、「SYNTHETIQ:Synthetic video detector」を開発したNII シンセティックメディア国際研究センターでは、同プログラムの社会実装を推進することを目的に、パートナーとなる企業の募集を進めていくとしている。