OpenAIのサム・アルトマンが語る「この1年」 - Anthropicへの遅れ、Hugging Face侵入事件、そしてAGIへの道筋

OpenAI CEOのSam Altman(サム・アルトマン)氏をはじめ、同社幹部が米メディアの取材に応じ、直近1年間について振り返っている。取材に基づく記事を掲載した。同社は開発中の次世代モデル群「Astra」のデモを関係者に公開する一方、この1年でAnthropicに主導権を奪われた経緯や、AIエージェントがHugging Faceのシステムに侵入した安全性問題への対応について、率直に語っている。

OpenAI、Anthropicへの後れとAI安全性の課題を認める

まずコーディング分野での出遅れについて、現在OpenAIでエンタープライズ部門を率いるNick Turley氏は「Anthropicは本当にコーディングで何かを発見した。われわれにはそこでのリードがなかった」と認めた。CFOのSarah Friar氏も、企業向け営業体制の構築が遅れていたことについて「作れば人が来ると、本当に甘く考えていた」と振り返っている。

話は安全性の面にも及んでいる。OpenAIは7月、未公開のAIエージェントが検証用の隔離環境を脱出し、Hugging Faceのシステムに侵入していたことを明らかにした。アルトマン氏はこの一件を「まるでSF小説のよう」と表現。

当初は技術的なセキュリティ上の不備として説明していたが、取材の中で同氏はより深刻な問題だったとの認識を示し「今後のアラインメント失敗は、すべて重大事として扱うべきだ」と語気を強めた。

3日後の別のインタビューでは「AIの安全性を正しく行うことは、どの企業の勢いよりも重要だ」とも述べている。アライメントとは、AIが人間の意図や倫理観に正しく沿うように調整・訓練する技術だ。

事件の背景について、チーフサイエンティストのJakub Pachocki氏は、モデルの挙動を監視する仕組み自体はすでに用意していたものの、当該モデルの能力水準を見誤り運用していなかったことを明かした。

同氏は「完全には予測できていなかった。AIについては、予期せぬことを予期すべきだ」と語る。安全・アラインメント部門を統括するMia Glaese氏も、この事件を「明確な転換点。これが起きる前に、今やっている取り組みの多くをやっておきたかった」と振り返った。

OpenAI幹部が語るAGI到達への現在地

AGI(汎用人工知能)への到達については、幹部により予想は異なるようだ。CRO(最高リサーチ責任者)のMark Chen氏は「AGIまで80%の道のり」との見方を示している一方で、アルトマン氏は「まだ到達していない」としつつ、年内に社内的にAGIと呼べるシステムを持つ見通しを語っている。

社長のGreg Brockman氏はさらに踏み込み、2年後に振り返れば、今がAGI誕生の瞬間として記憶されるかもしれないとの見解を示している。

製品戦略では、元AppleデザイナーのJony Ive氏率いるチームと協業し、ハードウェア開発を進めていることを明らかにしている。Altman氏は「テーブルに置くもの。ポケットに入るもの。身に着けるもの」など少数のデバイス群を開発中だと明かした。

同氏は「プロアクティブなコンピュータという発想に慣れることが、最大の変化になる」と説明した。Brockman氏は、目指す姿を「パーソナルAGI」という言葉で表現し、「ポケットの中にほぼAGI、あるいはやがて本物のAGIが入ることになる」と語っている。米TIME誌が8月26日付で報じている。