先日、OpenAI CEOのサム・アルトマン氏はソーシャルメディアが「本物らしくない」と感じるようになった原因はボットの氾濫にあると指摘したようだ。

Redditのサブレディットから得た気づき

X(旧Twitter)愛好家かつRedditの株主でもあるアルトマン氏のこうした気づきは、彼がr/ClaudecodeというRedditのサブレディットを読んでいたときに感じたという。OpenAIが5月にリリースしたプログラミング支援サービス「Codex」を称賛する投稿が相次ぎ、多くのユーザーが「Claude CodeからCodexに乗り換えた」と宣言し、あるユーザーは「Codexに移行するにはRedditに投稿しないといけないのか？」と冗談を言うほどだった。

アルトマン氏は、これらの投稿の多くが本当に人間によるものなのか疑問を抱き「読んでいて奇妙な感覚に襲われた。すべてが偽物、あるいはボットのように感じられる。Codexの成長が本物であることは知っているのに」とXに投稿した。

同氏は投稿の中で「いくつかの要因がある。人間がLLM(大規模言語モデル)特有の話し方を真似し始めていること、常時接続の“Extremely Online”な人々が似たような行動をとること、SNSのエンゲージメント最適化による極端な盛り上がりと冷め方、クリエイターの収益構造、他社によるステルスマーケティング(アストロターフィング)など、そしておそらく本当にボットも混ざっている」と述べている。

1～2年前と異なりAI関連のXやRedditは“偽物っぽく”感じる

アルトマン氏は人間がLLMのように話すようになってきたと指摘しているが、LLMはそもそも人間の言語を模倣するために作られたものだ。OpenAIのモデルはRedditの投稿を学習データとして使用しており、同氏自身も2022年までRedditの取締役を務めていた。

また、アルトマン氏はSNS上のファンダム(熱狂的な支持層)が奇妙な振る舞いをする傾向があるとも述べており、特定のグループが怒りや不満を共有する場になると、憎悪の連鎖に陥ることもあるという。

さらに、SNSプラットフォームやクリエイターが収益をエンゲージメントに依存していることも、偽情報やボットの氾濫を助長していると指摘。同氏は、OpenAIに対する好意的な投稿の一部が、競合他社によるアストロターフィング(偽装された世論操作)である可能性もあると示唆している。

実際にGPT-5.0のリリース後、OpenAI関連のサブレディットでは、称賛よりも批判的な投稿が目立つようになり、アルトマン氏は翌日にr/GPTでAMA(なんでも質問会)を開催し、問題点を認めて改善を約束したが、以前のような熱狂は戻っていないという。

同氏はXの投稿で「AI関連のXやRedditは、1～2年前とは異なり、今はとても“偽物っぽく”感じられる」と締めくくっている。こうした現象の原因は何か？LLMの進化でソーシャルメディアだけでなく、教育、報道、司法など多くの分野で“本物らしさ”が揺らいでいる。

2024年には、インターネットトラフィックの半分以上が非人間的なもの(主にLLMによる)だったとセキュリティ企業のImpervaが報告しており、一部ではアルトマン氏の発言がOpenAIによる新たなSNSプラットフォームの布石ではないかとの憶測もある。9月8日付のTechCrunchが報じている。