Bleeping Computerは12月20日(米国時間)、「Google Chrome uses AI to analyze pages in new scam detection feature」において、Google Chromeに新しく「AIによる詐欺検出機能」が搭載される見込みと伝えた。

  • Google Chrome uses AI to analyze pages in new scam detection feature

    Google Chrome uses AI to analyze pages in new scam detection feature

AIによる詐欺検出機能とは

これは開発者向けビルドの「Chrome Canary」から発見された新機能で、設定では次のとおり説明されている。

Client Side Detection Brand and Intent for Scam Detection - Enables on device LLM output on pages to inquire for brand and intent of the page(詐欺検出のためのクライアント側におけるブランドと意図検出 - ページのブランドと意図を問い合わせるために、ページのLLM出力を有効にする。)

これ以上の説明がないため、ここからは推測となるが、この新機能はサポート詐欺などの悪意のあるWebサイトをその内容から推定し、ユーザーに警告する機能とみられる。動作としてはWebコンテンツを大規模言語モデル(LLM: Large Language Model)に送信し、Webコンテンツが主張するブランドと内容から詐欺の可能性を判定、悪意があると評価された場合に警告するものと推測される。

この新機能はテスト段階にあり、リリース時期は未定。詳細についても公式発表はなく、進捗次第では内容を変更される可能性もある。

検出対象となる詐欺

Bleeping Computerによると、Googleは検出対象として悪意のある「Webサイト」「ダウンロード」「拡張機能」を挙げており、これらに対するリアルタイム保護を提供する予定という。悪意のあるWebサイトの詳細は不明だが、フィッシング詐欺、サポート詐欺、正規サイトを装ったWebサイトなどを検出するものと推測される。

古くからみられるサポート詐欺は最近でも確認されている(参考：「久しぶりの年賀状印刷で被害? プリンタのサポート詐欺に警戒を | TECH+（テックプラス）」)。この新機能が効果を発揮すれば、このような被害は大幅に軽減できる可能性がある。特にコンピュータやWebシステムに明るくないユーザーには大きな安心材料になると考えられ、Googleのこの取り組みに注目しておきたい。