「超知能開発、2040年まで減速を」 - AI Futures Projectが新提言

米研究者らが設立した非営利団体のAI Futures Projectが、超知能AIの開発を意図的に減速させるべきだとする新たな提言を発表した。超知能の到達時期を2040年まで先送りすることを推奨している。

AIモデルの重み以外のすべての情報を開示し、検証を可能にすべきと提言

AI Futures Projectは、AI開発の進展を予測し政策提言を行うシンクタンクとして2025年に設立された。同年に悲観的な未来予測の報告書「AI 2027」を発表し、話題を呼んだ。

今回の新提言では、米中を含む主要国が「検証可能な減速」で合意し、複数の企業・国家が秘密裏に競争するのではなく、慎重かつ緩やかに超知能へ近づくべきだと主張している。

AI企業に対しては、モデルの重み以外のすべての情報を開示し、外部機関による検証を可能にすべきだとしている。

開発ペースを落とすことで、AIの制御不能化、政府の政策対応の遅れ、AIパワーの企業・国家への集中、大規模な雇用喪失といったリスクを緩和できると同団体は説明する。

著者の一人でOpenAI出身のDaniel Kokotajlo氏は、開発を遅らせることで社会がAIに備える時間的猶予を得られると記している。そのうえで、提言が実際に聞き入れられる可能性は低いとしても、望ましいと考える政策を提言すること自体に意味があるとしている。