AGI(汎用人工知能)開発において、米国は原子爆弾で行ったマンハッタン計画式を取るべきではない--。元Google CEOのEric Schmidt(エリック・シュミット)氏ら3人が3月5日、AGI開発に関する文書を公表した。

41ページわたる文書の内容とは

このほど公表された文書はシュミット氏、Scale AI 創業者兼CEOのAlexandr Wang氏、Center for AI Safety 共同創業者兼ディレクターのDan Hendrycks氏の3人による共著。

「Superintelligence Strategy : Expert Version」と題した41ページにわたる文書で、米国はAGI開発にあたってマンハッタン計画のように独占的な推進方法を追求すべきではないと主張している。

米中経済安全保障再考委員会(USCC)は2024年11月、AGIに特化したマンハッタン計画のようなプログラムの設立を提案。

そこでは、AGIにおける米国のリーダーシップの目標に沿った速度と規模で政策を進めるために、行政府に広範な複数年の契約権限と関連資金を提供することなどが含まれていた。

文書でシュミット氏らは、米国がAGIを独占的に管理しようとする試みが、逆に中国からのサイバー攻撃などの形で激しい報復を引き起こす可能性を指摘、国際関係を不安定化させる可能性があるとしている。

AGIの競争に勝つことよりも、他国の開発を抑制することの重要性を主張し、核抑止の「相互確証破壊(MAD)」のような抑止戦略となる「相互確証AI機能不全(MAIM: Mutual Assured AI Malfunction)」という概念を提唱している。

このように、文書は抑止、拡散防止、競争力強化の3つの柱でAGI時代に向けた戦略を構築すべきだとしている。