LINEヤフーは9月9日、同社が運営するインターネットニュース配信サービス「Yahoo!ニュース」が提供する「Yahoo!ニュース コメント」（コメント欄）において、コメントポリシーに違反するコメントや閲覧者が不快と感じる可能性のある表現に対して、AIが表現の見直しを提案する「コメント添削モデル」の導入を開始した。
2007年から提供されているYahoo!ニュースのコメント欄については、誹謗中傷や不正確なコメントが見られる点に対して懸念・批判が寄せられることもあった。
これに対してYahoo!ニュースは、コメントポリシーの整備、専門チームによる24時間体制のパトロールなどにより、違反コメントの削除するといった対策を行っている。また、建設的なコメントを上位に表示させる「建設的コメント順位付けモデル」、多様な切り口のコメントを上位へ優先的に表示する「コメント多様化モデル」など、コメント欄の健全化のためのAI導入なども行ってきた。
そして今回導入される「コメント添削モデル」は、コメントポリシーに違反するコメントや、コメントポイシーに違反しないが閲覧者が不快と感じる可能性がある表現に対して、ユーザーによるコメント投稿の完了前にAIが表現の見直しを提案する機能だ。
コメント投稿前に表現を見直す機会を提供することは有識者からもその重要性を提起されており、その意見を踏まえて今回の導入に至ったという。
具体的なこの機能の動作としては、ユーザーがコメント投稿フォームにコメントを入力して「投稿する」ボタンを押下した際に、「コメント添削モデル」がそのコメント内容を分析。「コメントポリシーに違反する」「不快と感じる可能性のある表現である」と判断した場合には、該当箇所をハイライトで示し、表現の見直しを提案するポップアップが表示される。
-
「コメント添削モデル」の発動イメージ。ポリシー違反もしくは深いと感じる可能性のある表現と判断された箇所がハイライトされる。判断は文脈を踏まえて行われ、単純に特定の表現に対して発動するわけではない
-
「コメント発動モデル」の挙動イメージ。添削モデルが発動すると、問題がある表現に対して見直しの提案が行われる
Yahoo!ニュースでは今後も、コメントによりユーザーがニュースに対して興味や多角的な視点を持つきっかけを提供するとともに、健全な言論空間を構築するように尽力するとしている。
