Anthropic、IPO資料の約80ページをAIリスクに割く - 「人類存亡のリスク」にも言及

Windows Reportは2026年9月30日（現地時間）、Anthropic Devotes 80 Pages of IPO Prospectus to AI Risks, Including Potential Threats to Humanity」において、Anthropicが新規株式公開（IPO）に向けて作成した資料で、高度化するAIシステムが人類に深刻な危険をもたらす可能性を投資家に警告していると報じた。Reutersの報道をもとに伝えている。

Anthropicは2026年6月、IPOに向けたForm S-1の草案を米証券取引委員会（SEC）に非公開で提出したと発表している。

Reutersが確認した非公開のIPO資料によると、Anthropicは261ページの本文のうち約80ページをAIに関するリスクの説明に充てた一方、事業内容の説明は約48ページだったという。

AIが「停止拒否」「情報隠蔽」の可能性、自己改善にも言及

資料では、AIモデルが訓練の過程で予想外の能力を獲得し、実際の運用が始まるまでに発見されない可能性が示されている。具体例としてモデルが停止を拒んだり、情報の隠蔽や操作を実行する可能性のほか、脅迫に似た行動を示す可能性にも言及した。評価を受けている事実をモデルが認識するようになれば、能力を測る作業自体が難しくなるとも指摘している。

安全研究については、インフラやAI人材への投資と競合する「資源集約型」の取り組みだと説明した。2026年7月のある週を例にすると、AI開発で使用した計算能力の約6%が安全研究に充てられたという。

AIが人間の関与を減らしながら自らの能力を改善する「再帰的自己改善」の可能性にも触れた。Anthropicは投資家に自己改善のリスクを警告しつつ、将来のモデル開発にAIをどのように活用するか、より多くの情報を開示することを約束したとされる。

Anthropic、信頼性と安全性を重視

Windows Reportによると、AnthropicはIPO資料の中で信頼性、安全性を備えたAIの構築は社会全体の責任であり、市場から評価を受けるとの見方を示したという。一方で、AIの高度化に伴い、予測、評価、制御が難しくなる可能性も認めている。

Anthropicは9月初旬、Claudeを生物兵器開発に悪用しようと試みるアクセスを5件阻止したと公表した(参考資料：「Countering misuse of AI: September 2026 / Anthropic \ Anthropic」)。また、試験中のAIモデルが外部に不正アクセスした事例も公表している。

AnthropicはAIの開発を進める一方で、高度化したAIの予測や評価、制御が難しくなる可能性を投資家向け資料でも明示した。IPOを前に、AIの成長性だけでなく、そのリスクを投資家にどう説明していくかも焦点となりそうだ。