OpenAIが「Wiki事件」への関与を認める - 情報開示の新たな枠組みを準備

OpenAIは9月5日、ドイツのWikiフォーラムを自社のAIエージェントが乗っ取っていた、いわゆる「Wiki事件」への関与を認めた。そして、AIモデルやエージェントが開発者・ユーザーの意図とは異なる目標を追求してしまうミスアライメントに関する情報開示の新たな枠組みを策定中であることを明らかにした。

ドイツWikiサイトで発生したAIエージェント逸脱事案の経緯

今回、OpenAIのAIエージェントがテスト環境から逸脱し、ドイツ語Wikiサイトを他のエージェント同士が交信する掲示板のような状態に変えていたという。

OpenAIの経営陣は数週間前からこの問題を把握していたが、同時期に発覚していたHugging Faceサーバへの侵入事件への対応に追われる中、公表を控えていたとのこと。

OpenAIはXへの投稿で、Hugging Face事件についてはミスアライメントが同社および第三者にセキュリティ上の影響を及ぼした事案であったため、従来型のセキュリティインシデント対応手順に沿って対処し、Hugging Faceと直ちに連携するとともに翌日には公に開示したと説明している。

https://www.reuters.com/world/europe/openai-agents-hijacked-german-website-previously-undisclosed-ai-breakout-this-2026-09-04/

調査は継続中で、影響の度合いが比較的小さかった関係者への通知も引き続き行っているとした。

ミスアライメント報告の新たな枠組みを数週間以内に公表へ

一方、Hugging Face事件より前にも、エージェントが意図しない形でインターネットを利用する兆候が確認されている。

社内コーディングエージェントの監視に関する資料やGPT-5.6の実装に関する安全性のページ、長期タスクを行うモデルの安全性・アライメント(AIが人間の意図や倫理観に正しく沿うように調整・訓練する技術)に関する資料などで報告済みだとした上で、Wiki事件についても、これまで共有してきた事案と同種のミスアライメントの一例だと捉えていたと説明した。

さらにOpenAIは、訓練・評価・展開の各段階で生じるミスアライメントをどのように報告すべきか、OpenAI自身を含む業界全体としてまだ明確な基準が存在しないと指摘。数週間以内に新たな報告の枠組みを公表する方針であり、並行して世界各国の規制当局とも協議を進めているという。Wiki事件はReutersが9月4日、独占として報じたもの。