ChatGPT」が誤った情報を出すことがあるリスクについて、米連邦取引委員会(FTC)が調査に乗り出す。消費者にリスクを与えていないかを調べる模様だ。

生成AIはブームを巻き起こしている一方で、懸念も出ている。イタリアでは3月、トレーニングに利用するデータがプライバシーを侵害しているとして、一時的ながらChatGPTにアクセスできないようにした(その後に解除された)。

先には、米国でデータスクレイピングについて集団訴訟も起きている。また、生成AIが正確ではない回答をもっともらしく返すハルシネーションも、以前から問題として指摘されてきた。

FTCは7月13日、開発元のOpenAIに民事調査請求を送付した。書状には「LLM(大規模言語モデル)を組み込んだ、使用した、あるいは依存した製品およびサービスを提供、または利用可能にすることに関連して、同社が(1)不公正または欺瞞的なプライバシーあるいはデータセキュリティ慣行に関与した、(2)FTC法第5条に違反して風評被害を含む消費者に危害を与えるリスクに関連する不公正または欺瞞的慣行に関与したかどうか」と調査の目的を記している。

7月13日付(米国時間)のWall Street Journalによると、FTCのLina Khan委員長はChatGPTなどの生成AIが自分たちが利用するデータをチェックしていないことなどを懸念しているという。

OpenAI CEOのSam Altman(サム・アルトマン)氏はツイートで「われわれのテクノロジーが安全でコンシューマ寄りであることはとても重要だ。そして、われわれは法にしたがっていると自信を持っている。FTCに協力する」と投稿している。