Avast Softwareは1月30日(米国時間)、「The Taylor Swift deepfake porn is nothing new – but that doesn’t mean we shouldn’t be concerned」において、生成AIを悪用して有名人のわいせつ画像を配布した事案を引き合いに、生成AIの倫理的ジレンマやサービス提供者に求める対策に関する考察を伝えた。

  • The Taylor Swift deepfake porn is nothing new – but that doesn’t mean we shouldn’t be concerned

    The Taylor Swift deepfake porn is nothing new – but that doesn’t mean we shouldn’t be concerned

生成AIを悪用したわいせつ画像が流布

1月26日(米国時間)、技術系ニュースサイトのThe Vergeは「X is being flooded with graphic Taylor Swift AI images - The Verge」において、生成AIを悪用したTaylor Swift氏のわいせつ画像がXに氾濫し、「Taylor Swift AI」がトレンドに上がったと報じた。この事案は明らかに生成AIを悪用したもので、Microsoft Designerが悪用されたと推測されている。

MicrosoftのResponsible AI EngineeringリーダーのSarah Bird氏は、「これら画像について調査を続けており、私たちのサービスが悪用されてこのような画像が生成されるのを防ぐため、既存のシステムを強化している」と述べ、対策を実施したことを明らかにしている。

倫理的ジレンマ

Avast Softwareは生成AIの問題点について、架空の人物に対するわいせつ画像の生成は倫理的問題を生じさせ難いが、特定の人物として認識可能な画像を生成できる点に問題があると指摘している。これはいわゆるリベンジポルノに相当する問題であり、すべての人が被害者になる可能性がある。

画像生成者に加害意識がなく、関係者にとって架空の画像であっても、第三者には特定人物として認識できる画像であった場合に倫理的ジレンマが生じる。すべての人を保護するには、画像生成自体が困難となる。そのためどこまでを架空、つまり許容するかという線引が必要で、Avast Softwareはこの技術を適正に規制する法律が必要との見解を示している。

サービス提供者に求められる対策

Avast脅威インテリジェンスディレクターのMichal Salát氏によると、生成AIのサービス提供者が問題のあるコンテンツ制作を防止することはそれほど難しくないという。特定人物の生成を禁止し、ユーザーが投稿した画像を素材として使用させないといった単純なものであれば可能であり、大多数にとって十分な障壁になるとしている。

しかしながら、このような制限を回避しようとするユーザーは存在し、また、悪用を完全に阻止することは事実上不可能とも述べている。それでも企業は悪用させないための努力を継続するべきだとして、生成AIサービスを提供する企業に対策を求めている。