米Twitterは5月19日（現地時間）、紛争、公衆衛生上の緊急事態、災害といった危機下において虚偽や誤解を招く情報が拡散するのを防ぐための新規約「Crisis misinformation policy」を発表した。まずはロシアによるウクライナ侵攻をはじめとする武力紛争に焦点を当てたルールになっており、今後更新しながら他の危機にも適用されるポリシーに拡張する計画だ。
急速に会話が進む危機下では、事実が確かめられていない段階で憶測や虚偽の情報、誤解を招くような主張が拡散することがある。それらによる被害を減らすために、誤解を招くおそれが確認され次第、タイムライン、キーワード検索、「#話題を検索」などTwitter全体で情報の拡散やリコメンドを抑制する。また、閲覧数が伸びているツイート、影響力のあるアカウント（検証済みアカウントや政府の公式アカウントなど）を優先してCrisis misinformationポリシーに違反する内容であることを通知する警告を投稿に表示。「いいね」やリツイート、共有機能を利用できないようにする。
-
Crisis misinformationポリシーに違反する投稿に表示する警告パネルの例、「View」を押さないと閲覧できない
投稿が利用者の誤解を招くかどうかは、紛争監視団体や人道支援団体、ジャーナリストなど信頼性が高い複数の情報源に照らし合わせて検証する。ポリシーに違反したアカウントにはストライクシステムを適用し、30日以内に2度の違反通知で12時間のアカウント一時停止、30日以内に3回以上の違反通知で7日間の停止にする。
Twitterは、2021年の米連邦議会議事堂襲撃事件で大統領選挙の開票結果に不満を持つ支持者を刺激したとしてトランプ前大統領のアカウントを凍結させ、「言論の自由」の観点から批判を受けた。
TwitterのSafety&Integrityを担当するヨエル・ロス氏によると、コンテンツが広がるのを抑制すれば拡散を30〜50％抑えられる。放置もしくは削除という単純な対応ではなく、適切なコンテンツモデレーションを行うことで、言論と記録を残しながら誤解を招く情報や虚偽の被害を効果的に軽減できるとしている。
4月にTwitter買収で同社と合意したイーロン・マスク氏は、「言論の自由」のための買収であるとし、検閲的な行為を批判するとともにコンテンツモデレーションのアルゴリズムのオープンソース化を提案している。
