Microsoft幹部、職場に広がる生成AI文書を「破滅ループ」と警告

生成AIで作られた文書をAIに要約させたが、新しい内容は得られなかったとして、この状況を「破滅ループ(Doom Loop)」と表現し、仕事の現場で独自性に乏しいAI生成物が増えることへの警戒感を示した。

Windows Centralは8月31日(現地時間)、「Microsoft executive vice president bemoans employees sending him "AI slop," saying "This is a doom loop." - Maybe take some responsibility? ｜Windows Central」において、Microsoft幹部がAI生成コンテンツに懸念を示したと報じた。

LinkedInおよびMicrosoft Office、Teams、Outlook事業を統括するエグゼクティブバイスプレジデントのRyan Roslansky氏は、 ある人から明らかに生成AIで作られた文書を受け取ったと投稿。それを読んで生成物だと気がつき、AIに要約させたが、新しい内容は得られなかったと言葉を漏らした。

同氏はこの状況を「破滅ループ(Doom Loop)」と表現し、仕事の現場で独自性に乏しいAI生成物が増えることへの警戒感を示した。この投稿についてWindows Centralの記者は「爆笑した」と述べ、Microsoftが生成AIを積極的に推進してきたこととの矛盾を指摘している。

「破滅ループ」とAI生成コンテンツの循環

Roslansky氏は、AIを使うことで負担を減らせるとしても、結果として似通った文書が大量に生まれる状態は避けるべきだと主張した。AIは仕事、学習、創作を支援する手段として活用し、利用者それぞれの視点や経験を生かす形で使うべきだと訴えている。

Windows Centralはこの主張の是非には触れず、Microsoft幹部が意図せず自滅的な問題の1つに触れたと指摘した。Microsoft Copilot、ChatGPT、Geminiなどの生成AIプラットフォームは、人間が過去に生み出してきたコンテンツを学習して成り立っている。

しかしながら、生成AI登場以降はAIコンテンツを学習する機会が増加。記者は自己学習というRoslansky氏の指摘する「破滅ループ」を生み出したと述べた。

生成物がAIモデルの学習に使われる循環が発生すると、学習データの分布が不十分となり、出力の質が低下(単純化)することが知られている。この問題は「モデル崩壊」と呼ばれ、AI開発における課題として認識されている。

AI利用が進むと世の中には生成物があふれることになる。その生成物を学習したAIを利用すれば、似通った文書が大量に生み出される結果につながる。

Windows Centralは、MicrosoftがWindowsなどへのAI機能の導入を積極的に進めてきた一方で、その幹部自身がAI生成コンテンツの増加に懸念を示したことを皮肉な状況だと批判している。

生成物に独自の視点を組み込む重要性

Roslansky氏はAI利用を否定しているわけではなく、独自の視点を加え人間の仕事を補助する使い方を求めている。このような利用形態が進めば、モデル崩壊の問題も軽減される可能性がある。AI利用者には生成物の氾濫に注意を向け、AIをどのように仕事へ組み込むかを真剣に考えることが求められている。

なお、AI開発企業は生成物を検出する不可視のウオーターマークの導入を開始しており、この仕組みを学習にも適用すればモデル崩壊を効果的に抑制できるとも考えられる。この実現には開発企業間の連携も必要となるわけだが、Microsoftには幹部の嘆きを止めるためにも率先して取り組むことが望まれる。