Androidにアダルト画像に自動的にモザイクをかける機能、疑念の声も

Malwarebytesは2025年2月26日(米国時間)、「Android happy to check your nudes before you forward them｜Malwarebytes」において、Androidの新しいユーザー保護機能「Android System SafetyCore」の概要を伝えた。

Googleは2024年10月22日の公式ブログ「Google Online Security Blog: 5 new protections on Google Messages to help keep you safe」において、数か月以内にAndroid 9以降のデバイスに展開を開始すると予告しており、すでに一部デバイスでは自動インストールが開始されている。

Android happy to check your nudes before you forward them｜Malwarebytes

Android System SafetyCoreとは

GoogleはAndroid System SafetyCoreを次のように解説している。

「 SafetyCoreはAndroid 9以降のデバイス用のGoogleシステムサービスです。これは、Googleメッセージの今後の機密コンテンツ警告機能などの機能の基礎となるテクノロジーを提供し、望ましくない可能性のあるコンテンツを受信したときにユーザーが身を守るのに役立ちます。SafetyCoreは昨年展開を開始しましたが、Googleメッセージの機密コンテンツの警告機能は別個のオプション機能で、2025年に段階的に展開が開始されます。機密コンテンツの警告機能の処理はデバイス上で行われ、すべての画像や特定の結果と警告はユーザーに公開されます」

また、ブログによると、このアプリはアダルトコンテンツなどセンシティブな画像を検出し、表示する前にぼかしを加えたり、誤って共有されるのを防止するために送信前に警告したりする機能を提供するという。

センシティブな画像の検出手法についてGoogleは技術的な詳細を公開していないが、AI(Artificial Intelligence)を使用しているとの指摘がある。そのため、一部ユーザーからは画像データがGoogleに送信されたり、学習データに利用されたりするのではないかと懸念の声が上がっている。

この点についてGoogleは次のように説明し、データの収集、共有はしないと明らかにした。

このアプリはユーザーのデータの収集、共有を行わない
このアプリは他の企業や組織とユーザーデータを共有しない
このアプリの開発者はPlayファミリーポリシーの遵守に努めている

アンインストール可能

Android System SafetyCore(以降、SafetyCoreと略す)は「Googleシステムアップデート」の対象となっている。そのため、Android 9以降のデバイスには自動的にインストールされる可能性がある。また、インストール後のデフォルト動作は利用者の年齢によって異なり、18歳以上はオプトイン、18歳未満はオプトアウトにて機能が提供される。

SafetyCoreはシステムアプリとして配布されており、不要な場合はアンインストールできる。アンインストール手順はデバイスごとに異なる可能性があり、詳細はベンダーに確認する必要がある。

標準的なアンインストール手順は次のとおり。