Googleの日本法人は2月2日、Googleマップに表示される飲食店などのクチコミ機能について、不適切なコンテンツを防ぐための仕組みを公式のブログで紹介した。

Googleビジネスプロフィールは、Google検索やGoogleマップなどにビジネスや飲食店などの情報を表示し、管理するためのツールだ。同社では投稿されたクチコミが実際の体験や来店に基づいているかを確認し、関係のないコメントや不快なコメントをGoogleビジネスプロフィールから除外するためにコンテンツポリシーを作成している。

特定のビジネスや店舗が不正行為の対象となる可能性がある場合は、ポリシーに違反するコンテンツや無関係なクチコミから保護するという。最近では、複数の国で政府や企業が特定の場所を利用するために新型コロナウイルス感染症のワクチン接種証明の取得を義務付けたことを受けて、企業を批判するクチコミが投稿された際にはそれらのクチコミを削除するために追加の保護を導入している。

同社は日々投稿されるクチコミの判断について、機械による大量の情報処理と人間による微妙なニュアンス理解の両面が必要と考えている。クチコミが投稿されると、同社のポリシーに違反していないかを確認するために一度管理システムに送られ、学習済みの機械によって不適切な投稿や虚偽の投稿は削除される。

不快なクチコミやトピックに関係のないコンテンツが含まれていないか、クチコミを投稿したアカウントに疑わしいアクティビティ履歴がないか、クチコミが投稿された場所やビジネス自体に不正なクチコミが投稿される動機付けがなかったかなど、複数の観点で評価しているとのことだ。

許容できるコンテンツと、ポリシーに違反しているコンテンツの違いを明確に機会が判別するのは困難だ。例えば「ゲイ」という単語は蔑称的な用語として使用されることがあり同社サービスのクチコミでは許容していない。しかし、この表現がヘイトスピーチでのみ使用されるという前提で機械学習モデルをトレーニングしてしまうと、同性愛者のビジネスオーナーやLGBTQ+のセーフスペースに関するクチコミも削除してしまう恐れもある。

そこで、同社は人間のオペレーターが定期的に品質テストを実施して、機械学習モデルからバイアスを取り除くための追加トレーニングも実施しているという。特定の単語や表現方法についてモデルを継続的にトレーニングすることで、ポリシーに違反するコンテンツを捉える能力を向上させ、正当なクチコミを誤ってブロックする可能性を減らしているとのことだ。

ビジネスや店舗のオーナとGoogleマップを使用するユーザーはどちらも、ポリシー違反が疑われるクチコミに対してフラグを立てることができる。フラグが立てられたコンテンツは同社のオペレーターチームが確認し、実際にポリシーに違反している場合は同社サービスから削除される。場合によっては投稿者のアカウント停止や法的措置などの対応に至る場合もあるという。

また、選挙など多くの注目を集めるイベントが予定されている場合には、イベントに関連する場所や検索ボリュームが増加する可能性のあるビジネスに対して、同社は高度な保護を適用する。信憑性と信頼性のあるクチコミのみを公開するため、悪意を持つユーザーに対して先手を打つ施策とのことだ。