Anthropicの生成AI「Claude」の共有チャットがGoogleやBingの検索結果に表示される状態になっていたことが分かった。問題となったのは「Share」機能で公開したチャットで、通常の非公開チャットは対象外。Anthropicは現在、検索エンジンによるインデックスを防ぐ対応を進めている。

  • Anthropicの生成AI『Claude』　出典：Anthropic

    Anthropicの生成AI『Claude』　出典：Anthropic

Google検索で共有チャットが表示されていた

Redditユーザーが、Google検索によってClaudeの共有チャットが表示されることを発見したと報告した。Googleで「site:claude.ai/share」と検索すると、共有チャットが検索結果に表示される状態だったという。検索結果から、暗号資産ウォレットの秘密鍵や氏名、住所、業務メモなど機密性の高い情報を含む共有ページが見つかった。

さらに、Redditユーザーは、Google検索で共有チャットに加え、Claudeが生成したドキュメント、アプリ、その他のコンテンツが表示されることを確認している。

原因はClaudeの共有機能

Claudeの「Share」機能で作成される共有ページは、プライベートアカウント内に保存されるものではなく、公開Webページとして作成される。このため、検索エンジンがインデックス登録できる状態になっていた。

共有ページには検索エンジンによるインデックスを防ぐ設定が十分ではなく、GoogleやBing、Yandexなどが共有コンテンツをインデックス登録したとみられる。

ユーザーが共有リンクを「知っている人だけが見られるもの」と認識していた場合、公開Webページとして扱われることに気付かない可能性があり、そこにリスクがあった。

他の生成AIでも議論になったことがある

これはClaudeに限った話ではない。Wired誌によると、これはBingでも起こり得るリスクであり、以前にもGrokのチャットがGoogleの検索結果に表示されたことがあった。

また、 ChatGPTの共有オプションも、ユーザーが意図せず何千もの会話を検索可能にしてしまったため、すぐに削除された。

Anthropicは検索対象から外す対応を実施

Anthropicによると、Claudeのチャットはデフォルトでは非公開設定になっており、ユーザーが明示的に共有を選択した会話のみが影響を受けたという。

Anthropicは現在、検索エンジンプロバイダーに連絡を取り、該当リンクの削除を依頼しているという。ただし、一部の検索エンジンには、残存コピーやキャッシュされたコピーが残っている可能性がある。

利用者はチャットの共有設定の確認を

利用者ができる対策としては、Claudeで会話の共有を確認または停止することがある。

利用者は、Claudeに限らず生成AIで会話を共有する際は、公開範囲や共有リンクの仕様を確認し、機密情報や個人情報を含む内容は共有しないよう注意したい。