ExtremeTechは7月30日(現地時間)、「Most People Struggle to Tell Real Images From AI Fakes, Study Finds」において、多くの人がAIによって生成・加工された画像の識別に苦労しているという研究結果を伝えた。

この研究を行ったのはMicrosoftの「AI for Good Lab」の研究チームで、1万2500人以上が28万7000件以上の画像を評価したデータが使用された。

  • Microsoftの研究チームによるレポート

    Microsoftの研究チームによるレポート

AI画像を正しく認識できた割合は62%

生成AIの登場で、AIによる画像の生成・加工技術は劇的な進化を遂げ、もはや人間の目だけでは本物と見分けるのが難しいほどリアルになってきた。SNSやニュース記事、広告など、あらゆるメディアにおいてAI生成のコンテンツが利用されるようになり、AI画像と実在画像を見分けることの困難さが、社会的にも大きな課題となっている。

そんな中、Microsoftの研究チームは、ユーザーがAI生成画像と実在の写真をどの程度判別できるのかを確認する大規模な調査を行った。調査に使用したのは同社が提供する「Real or Not（本物か偽物か）」クイズで、これは提示した画像が「本物」か「AI画像か」かをユーザーに判断させるシンプルなゲームである。

  • Real or Not（本物か偽物）

    Real or Not（本物か偽物）

この研究では、クイズに参加した1万2500人以上による28万7000件以上の画像評価データが使用されたが、AI画像を正しく認識できたのはわずか62%だったという。論文は次のサイトで公開されている。

人物は判別しやすく、風景や抽象画は判別が難しい

研究チームは、人物が写った画像では正答率がわずかに高く、平均で65%のユーザーが本物を見分けることができたことも明らかにしている。一方で、風景や都市の写真、抽象的なシーンでは、正答率は約59%に下がった。このことは、人間の脳は顔を認識する能力が高く、風景では顔ほど異常性を検出できないためだと考えられている。

注目すべきは、ユーザーを最もだましやすいAI画像は「リアルに見えるがプロフェッショナルではない、またはアマチュア写真のようなスタイルのもの」だと判明した点。研究チームはその要因について、人がAI画像だと判断する際、無意識のうちに「AIは過度に洗練された画像を生成しがちである」という認識を持っているせいと指摘している。

その証拠に、MidjourneyやStable Diffusionなどが生成した「美しい画像」は、比較的正答率が高かったという。逆に、GAN（敵対的生成ネットワーク）が生成した画像は、アマチュア写真に近い特徴になりがちなことから、成功率は50%を下回っている。

AI生成画像を検出するツールも開発

Microsoftの研究チームではAI生成画像を検出するツールの開発も行っている。その正答率は95%を超えており、人間よりもはるかに高い。それでも、これらの検出ツールも完璧ではないことに留意が必要だとしている。

その上で、AI生成コンテンツの性質を一般に知らせるための透かし（ウオーターマーク）やデジタル署名といった透明性ツールが不可欠になると警鐘を鳴らしている。