Security Affairsは4月6日(現地時間)、「Expert used ChatGPT-4o to create a replica of his passport in just 5 minutes bypassing KYC」において、セキュリティ研究者がChatGPT-4oを使用してわずか5分で偽造パスポートの作成に成功したと伝えた。

この偽造パスポートは、画像を使ったKYC（本人確認手続き）システムを欺くほど精巧であり、現在の多くの検証システムがAIに対していかに無防備であるかが確認できるものになっているという。

  • Expert used ChatGPT-4o to create a replica of his passport in just 5 minutes bypassing KYC

    Expert used ChatGPT-4o to create a replica of his passport in just 5 minutes bypassing KYC

生成AIはKYCシステムを突破

ChatGPT-4oを使ったこの試みは、ポーランドのセキュリティ研究者Borys Musielak氏（@michuk）によって行われた。同氏は、「ほとんどの自動KYCシステムで問題なく受け入れられそうな自分のパスポートのレプリカを作成するのに5分しかかからなかった」と説明している。

KYCシステムは、オンライン上でユーザーの本人確認を行うためのシステムで、公的サービスや金融サービスなどにおいて、詐欺やマネーロンダリングなどの不正利用を防止する目的で広く利用されている。現在の多くのKYCシステムは身分証明証の画像をアップロードさせることで本人かどうかの検証を行っている。

しかし、この方法は精巧に偽造された身分証明証に対しては役に立たない。従来であればKYCシステムをだませるレベルの偽造には高度な画像加工技術とある程度の時間が必要だったが、生成AIはこの2つの障壁を簡単に突破してしまう。

Musielak氏の実験は、現在のKYCシステムがAIに対していかに脆弱かを実証するためのものだったという。同氏は「画像を証拠として頼りにする検証フローは、今では完全に時代遅れ」と警鐘を鳴らす。静止画だけでなく、動画でも同様の方法が通用するという。

より強固な本人確認システムが必要

偽造身分証によるKYCの回避を防止するためには、画像ではなく、より耐性のある認証の仕組みを用意する必要がある。その有力な候補がデジタルIDを使用した認証である。現在、スマートフォンなどの端末上でデジタルIDを保管するためのデジタルIDウォレットの開発が進められている。

運転免許証をはじめとする公的な身分証明証をデジタルIDとして持ち運べるようになれば、現在の画像に依存した本人確認と比べて、より強固な検証が可能になり、生成AIによる偽造を回避することができる。

Security Affairsによれば、Musielak氏のデモから数時間後に、ChatGPTは偽造文書の生成に対する安全ポリシーを適用して、同様のプロンプトを拒否するようになったという。AIベンダーにも責任ある対策が求められるが、根本的な問題を解決するには、やはり認証システムそのもののアップデートが不可欠と言えるだろう。