ヤフーは2月16日、ネットニュース配信サービス「Yahoo!ニュース」にて、AIを活用した注意喚起により、同取り組みを開始した直後と比べて、不適切なコメントを繰り返し投稿しているアカウントが13.5％減少したと発表した。

Yahoo!ニュースでは、誹謗中傷などの不適切なコメントをチェックするため、専門チームによる人的パトロールや、自社開発のAIによるパトロールに加え、2020年7月からAIを活用した注意喚起を行っている。

この注意喚起は、“不適切である可能性が高い”と判定されたコメントを過去数日以内に複数回投稿しているユーザーに対し、注意メッセージを表示するもの。「最近の投稿に他の人を傷つけるおそれのあるコメントが含まれると判定されました。心当たりはありませんか？」という呼びかけで、ユーザー自身に考える切っかけを提供するという。

  • 不適切な投稿を繰り返しているユーザーに掲出されるメッセージ

取り組み開始直後となる2020年8月の注意喚起メッセージ掲出数と比べ、4カ月後となる2020年12月では、コメント投稿数全体は増加している一方で、注意喚起メッセージが掲出されたアカウント数は13.5％下がったという。

ヤフーは、取り組みにより「不適切な投稿を繰り返すアカウントの減少に一定の効果が出ている」とし、今後も健全な言論空間を構築するために務めるとしている。