OpenAI、フロンティアモデルの安全対策強化のため強化学習トレーニングを一時停止

OpenAIは8月18日、フロンティアモデルの一部の強化学習(RL)トレーニングを一時停止したことを明らかにした。開発中のモデル「Astra」がPreparedness Framework(準備フレームワーク)における「重大(Critical)」レベルのサイバーセキュリティ能力閾値に達している可能性を示す予備的証拠が得られたことを受けての判断、と説明している。

安全対策として3つの柱を掲げる

同社は最新モデルのRLトレーニングを2週間一時停止し、研究環境のセキュリティ強化とレッドチーミング、監視システムの拡充を実施。最大規模のフロンティアRLランについては、小規模なトレーニングと評価でモデルの挙動を確認し、安全対策の検証を進めながら現在も保留を続けているという。

OpenAIは安全対策の柱として、(1)懸念行動を検知するモニタリング、(2)有害・無許可の行動を抑制するアライメント、(3)AIシステムのアクセス範囲を制限するセキュリティ対策、の3つを掲げている。

特にAstraなどサイバー関連モデルには最も厳格なセキュリティ基準を適用し、新基準への移行が完了するまで一部ワークロードの停止を継続する。

また、モデルの内部活動を監視する体制を拡充し、多段階のモニタリング体制へと刷新した。8月7日には、Astraが重大なサイバー能力を持つ可能性があると判断したことを受け、ツール使用時の推論全般への監視義務を追加したと報告している。

「業界全体で安全基準について協調すべき」

OpenAI CEOのSam Altman氏(サム・アルトマン)はXの投稿で「モデルの能力が安全性・アライメント(AIが人間の意図や倫理観に正しく沿うように調整・訓練する技術)の整備ペースを上回っていると感じれば、行動を起こすことを以前から明らかにしてきた」と記している。

また、同氏は「AIの安全性を非常に重視しており、業界全体で安全基準について協調していく必要があると考えているが、それまでは単独でも行動していく。安全性への確信が、今後のAI開発のペースを規定していくだろう。アライメント研究の進捗には楽観的で、フロンティアの能力を広く利用可能にするというコミットメントに変わりはない」と付け加えた。

We have paused some frontier RL training to ensure that we can meet the appropriate alignment, security and monitoring standards for the new level of capabilities in front of us. Model progress is now extremely rapid, and we always said we would take action if we felt that model…
— Sam Altman (@sama) August 18, 2026