Malwarebytesは2月9日(米国時間)、「AI chat app leak exposes 300 million messages tied to 25 million users｜Malwarebytes」において、AIチャットアプリから3億件のメッセージが流出したと報じた。

影響を受けたユーザーは2500万人以上とされ、メッセージには違法行為に関する議論なども含まれていたという。

  • AI chat app leak exposes 300 million messages tied to 25 million users｜Malwarebytes

    AI chat app leak exposes 300 million messages tied to 25 million users｜Malwarebytes

Firebaseの設定ミスでデータを公開か

データ流出が発見されたアプリはDEEP FLOW SOFTWARE SERVICES(Codeway.co)が開発する「Chat & Ask AI」とされる。同アプリは5000万人以上のユーザーを抱え、「Apple App Store」や「Google Play」から提供されている。

Malwarebytesによると、同アプリはOpenAIのChatGPT、AnthropicのClaude、GoogleのGeminiなど、さまざまな大規模言語モデル(LLM: Large Language Model)に接続するラッパーアプリだという。公式サイトは「質問に対して迅速で知的な回答を提供するために設計されたAIパワーチャットボットサービス」と説明している。

今回流出したデータにはチャット履歴全体、使用されたモデル、その他の設定を含むユーザーファイルが含まれていたと報告されている。データを発見したセキュリティ研究者は、DEEP FLOW SOFTWARE SERVICESが開発した他のアプリのユーザーデータについても入手を主張したとされる。

データ流出の原因はGoogle Firebaseの設定ミス。このミスの詳細は確認されていないが、一般的にセキュリティルールをpublic(公開)に設定し、認証なしでデータの読み取り、変更、削除を可能にするケースがあるという。

Firebaseを利用するアプリ開発者は要注意

研究者は同種の問題を抱えているアプリを特定するため、Apple App StoreおよびGoogle Play上のアプリを自動スキャンするツールを開発。その結果、調査対象とした200アプリのうち103アプリ(約52%)から同種の問題を発見した。危険な状態にあるファイルは数千万件に及ぶとされる。

この問題への注意喚起を目的に、研究者は問題のあるアプリの確認サイト「Firehound | Security Operations」を開設。掲載中のアプリ開発者は、セキュリティチームに連絡することで掲載の削除および解決策の提案を受けられるとしている。

問題の発見元となったDEEP FLOW SOFTWARE SERVICESは速やかに連絡を取り、数時間以内に問題を解決。掲載を削除したとされる。Google Firebaseを利用するアプリの開発者は問題の有無を確認することが望まれている。

MalwarebytesはAI機能を搭載したアプリの利用者に対し、「AIの発展はあまりにも速く、セキュリティとプライバシーをテクノロジーに組み込む余裕はないということを常に忘れてはなりません」と警告。会話はいずれ流出する可能性があると指摘し、記録に残らない利用を徹底するか、またはAIサービスの利用を最小限にとどめるように推奨している。