「When your therapist asks if you have thoughts of unaliving yourself…」

自身のunaliveを考えたことがあるかセラピストから質問された時……、「unalive?」、アンデッドという言葉があるから意味をなんとなく想像できるけど、「ualiving」はエディタのスペルチェックに引っかかる単語だ。

4月4日付けのWashington Postの記事で紹介されたアルゴスピーク（Algospeak）が話題になっている。TikTokやInstagram、YouTubeといったソーシャルメディアで使われ始めた。コンテンツモデレーションフィルタで"不適切"とフラグされてブロックされたり、ランキングを下げられるのを回避するための言葉や表現だ。

例えば、コロナ禍のストレスで自殺や自傷を検索する人が増えたことで「死」を思わせる言葉やフレーズがコンテンツ監視の対象になった。その影響を受けないように「die」や「dead」の代わりに「ualive」が使われるようになった。unaliving yourselfは自殺である。性暴力（sexual assault）が「SA」、バイブレータが「spicy eggplant」など犯罪行為や性行為に関する言葉であったり、ウクライナ侵攻の議論でウクライナをひまわりの絵文字で示すなど言葉以外の表現も存在する。

  • 「unalive」は俗語として以前から使われており、スラングや現代語を集めたUrban Dictionaryには2015年に登録されている。そうした機械の検閲官の辞書に載っていない言葉や表現がアルゴスピークとして用いられている。

    「unalive」は俗語として以前から使われており、スラングや現代語を集めたUrban Dictionaryには2015年に登録されている。そうした機械の検閲官の辞書に載っていない言葉や表現がアルゴスピークとして用いられている。

ネットやモバイルのコミュニケーションに造語や言葉に代わる表現が用いられるのはアルゴスピークが初めてではない。数字キーの連打でアルファベットを打っていたフィーチャーフォン時代に、テキストメッセージを素早く交換するためにLOL(Laughing Out Loud)やOMG（Oh My Gosh）のようなtxtspkが誕生した。顔文字やアスキーアート、絵文字、リアクションGIFやミーム（Meme）など、感情にダイレクトに伝わるグラフィックな表現も普及した。

それらはハードウェアやサービスの制限の中で人のコミュニケーションを活発にするアイディアや遊び心に溢れた表現だった。対して、アルゴスピークは監視と検閲を目的とするシステムから隠れるための暗号文のような表現である。過去にも、アルファベットを似たような数字や記号に置き換えるl33tsp34k（Leetspeak）が違法ダウンロードの監視から逃れるのに用いられたこともあったが、ファイル名や説明を隠しているに過ぎなかった。アルゴスピークは表現そのものを隠している。アップロードしたコンテンツが解析されるアルゴリズム時代の産物である。

TikTokやInstagramのReelsのようなサービスでは基本的にユーザーがオンデマンドでコンテンツを消費するのではなく、アルゴリズムによって勧められたコンテンツを楽しんでいる。アルゴリズムに不適切が疑われたら、それが優れたコンテンツであっても見てもらえないから、コンテンツモデレーションのルールを守ることが重要。コンテンツクリエイターは、フォロワーよりもまずアルゴリズムに向けて動画を調整している。

問題はコンテンツモデレーションがどんどん複雑で厳しくなっていることだ。アルゴスピーク自体は、悪意のある表現でかなり前から使い続けられてきた。例えば、極右・過激派ブーガルー（boogaloo）が「Big Igloo」のような音の似た言葉に置き換えて内輪のコミュニケーションに使っていた。その過激で攻撃的な内容が漏れて批判されたら、「単なるジョークだろ」と逃げる。

そうしたトラブルの積み重ねから、広告主の顔色をうかがいながら運営を続ける無料のソーシャルメディアは、安全ではない可能性や危うい可能性を回避する傾向を強めた。緊急とはいえ、前回の大統領選では現役大統領の言葉を伝えるアカウントが停止された。結果、ルールが"表現の自由"を束縛するようなケースが現れ始めた。「ゲイ（gay）」という言葉が原因でLGBTQコンテンツがブロックされ、LGBTQであることを示すために「Leg Bootyコミュニティのメンバー」と言ったりする。問題のある内容ではなくても、検閲フィルタにフラグを付けられるのを避けるために単語やフレーズを丸ごと作り変える。

  • 昨年12月に＠0xabad1deaが投稿した「アルゴリズムが人間の言葉をリアルタイムで迂回させている」というツイートからAlgospeakの議論が広がり始めた。

懸念されるのは、アルゴスピークがスムースに通じるのは事情や状況を把握している人達の間だけで、それ以外の人達には通じにくいばかりか誤解を生む可能性もあること。アルゴスピークによって、ネットユーザーのコンテンツを深読みする力が高まるかもしれない。だが、実際のところは、ネット空間が同じ関心を持つグループやコミュニティに分裂していく「Splinternet」（ネット分裂、サイバーバルカン化）を助長している。

機械学習システムから逃れる方法を見つけるアルゴスピークは創造的であり、遊び心のある表現もある。しかし、自分たちが使うプラットフォームで何が"適切"かを決める人間ではない検閲官から人間が逃れる努力をしているのだから、その空間で私達は自分たちの言語をコントロールできていないことになる。先週、イーロン・マスク氏のTwitter買収提案が大きなニュースになった。同氏は言論の自由のための買収であるとし、Twitterのモデレーションのアルゴリズムのオープンソース化を提案している。