Google、AndroidにAIによる詐欺検出機能を提供、通話中に警告

Googleは3月4日(米国時間)、「Google Online Security Blog: New AI-Powered Scam Detection Features to Help Protect You on Android」において、巧妙さを増す詐欺からユーザーを保護するため、Androidに新しい2つの詐欺検出機能を追加すると発表した。

これら機能は世界中の金融機関の協力を得て開発されたもので、最新の詐欺手法をAIに学習させて会話やメッセージから疑わしいパターンを検出し、リアルタイムな警告を可能にするという。

Google Online Security Blog: New AI-Powered Scam Detection Features to Help Protect You on Android

メッセージの詐欺検出

Googleメッセージには迷惑メール対策機能が導入されている。Googleはこの既存の詐欺対策機能を強化するため、より幅広い詐欺を検出可能にする詐欺検知機能を導入した。

新しい詐欺検知機能では、デバイスに搭載されたAIを使用して、ショートメッセージサービス(SMS: Short Message Service)、マルチメディアメッセージングサービス(MMS: Multimedia Messaging Service)、リッチコミュニケーションサービス(RCS: Rich Communication Services)のメッセージを分析して疑わしいパターンを検出するとユーザーに警告メッセージを通知する。また「報告とブロック」オプションを表示して送信者のブロックを可能にする。

Googleメッセージの詐欺検出画面の例　引用：Google

この機能はデフォルトで有効化されるが、メッセージの分析はすべてデバイス上で行われるためプライバシーは保護される。また、連絡先に登録されているユーザーとのメッセージは分析の対象から除外される。

なお、不審なメッセージを受け取り、「報告とブロック」から送信者をブロックした場合は、送信者の詳細と直近のメッセージのやり取りがGoogleに送信される。

通話における詐欺検出

Googleは詐欺電話からユーザーを保護するため、2024年11月にPixel 6以降のデバイスを使用している英語圏のベータ版ユーザーを対象に詐欺検出機能を導入している(参考：「Google Online Security Blog: Safer with Google: New intelligent, real-time protections on Android to keep you safe」)。

このベータ版テストにおいて、Pixel 9デバイスにはGemini Nanoを使用、Pixel 6以降のデバイスにはより小さいオンデバイス機械学習モデルを使用した。その結果、Gemini Nanoが優れた結果を示したため、英語圏のすべてのPixel 9ユーザーに提供範囲が拡大された。

通話の詐欺検出では開始時と通話中にビープ音を鳴らし、機能が有効になっていることを双方に通知する。デバイス上で処理される AI モデルを使用して会話をリアルタイムで分析し、詐欺の可能性をユーザーに警告する。発信者が配送を完了するためにギフトカードで支払いをさせようとした場合、詐欺検出機能は音声と触覚通知で警告し、電話に詐欺の可能性があるという警告を表示するという。

音声の分析は一時的とされ、音声、テキスト化された情報の録音、保存は行われず、また、Googleや第三者に送信されることもない。