米国防総省への協力を拒否したAnthropicのCEO、ダリオ・アモディの矜持

日頃からAI半導体について関心を持ってみているが、AIと社会との関係、その将来については正直ながら漠然とした不安を感じていた。最近、米国防総省への協力を拒み大きなニュースとなっているAI新興企業Anthropic社のCEOであるダリオ・アモディ氏の動きは、今後のAIの在り方を根本から見つめなおす大きな問題を提示している。

国防総省への協力を拒否したAnthropic社

科学技術の発展と戦争は常に相互依存の関係にあり、科学者はその技術の使用目的について、時には大きな試練に立たされる事がある。

原子爆弾の製造に協力した科学者の苦悩は映画「オッペンハイマー」に詳しい。この2-3年で目覚ましい発展を遂げるAI技術については、その利点とともに、懸念点についても永らく議論されてきた。特に、AIの能力が、人間による判断領域に急速に近づいている現在、その使用についての安全性や倫理性についての議論が盛んにおこなわれてきたが、激烈な開発競争に明け暮れるテック各社や、ユーザー各社は競争における自身の優位性の確保により多くの関心を払ってきたのが現実である。

そんな状況の中、AI使用上の倫理的問題が大きな事案となったのが、米国防総省と新興AIスタートアップAnthropic社の対立である。米国防総省は、米軍のあらゆる合法的活動にAnthropicのAI利用を認めるよう要求し、Anthropicはそれを拒否した。Anthropicがこれを拒否した理由は、自社が開発したAI技術が、「政府機関による米国市民の監視活動に使用される懸念」、と「自律型AI兵器などに使用される懸念」がある限り、使用を認められないと判断をしたからだ。Anthropic社のCEOであるダリオ・アモディ氏はへグセス国防長官から、これを拒否すれば、トランプ大統領令によってAnthropicを「サプライチェーン上のリスク」と指定し、すべての政府機関とのビジネスから締め出すという厳しい条件を押し付けられたが、アモディ氏がこれを拒否し、敢えて米政府と対立する立場を貫いたということだ。企業設立の際の基本理念を貫く勇気ある行動で、アモディ氏の確固たる矜持を見た気がした。

ダリオ/ダニエラ・アモディ兄妹が元OpenAIの開発仲間と設立したAnthropic

AnthropicはOpenAIの研究担当副社長を務めていたダリオ/ダニエラのアモディ兄妹と、数名のOpenAIの開発者がOpenAIを飛び出して、2021年に創立された。

この内紛劇には現在のOpenAIのCEOであるサム・アルトマン氏との確執があるという。Microsoftの財的支援を受け、ビジネス拡大に大きく舵を切りたいアルトマンに対し、黎明期にあるAI技術の使用についての信頼性、安全性、倫理性とそれに伴うリスクについての意見の違いが決裂の大きな理由だったという。アモディ兄妹はスタンフォード大学や他の大学で物理、数学、脳科学などの分野でかなり高度の教育を受けたのに加えて、人類の発展過程を研究する人文科学にも大きな関心を持っているという。

Anthropicという社名は造語であるが、「Anthropology:文化人類学」などの学問分野が想起されるように、人間社会の成り立ちとその歴史に敬意を払っているという印象を受ける。

その主力製品“クロード(Claude)”という名称は、情報理論の父とも呼ばれる数学者のクロード・シャロンとする説があったり、ラテン語のclaudusが語源であると言われたりしているが、確実なネーミングの経緯は定かではないとのことで、筆者的には文化人類学に大きな貢献をした20世紀初頭のベルギー出身の大哲学者、Claude Levi Straus(クロード・レヴィ・ストロース)が思い出された。

OpenAIのChatGPTやGoogleのGeminiなどの名だたるAIシステムとの競合を勝ち抜いて米国防総省に採用された技術集団のAnthropic社だが、国防総省との協業の中で、AI使用の多くの場面で自社が掲げる倫理規定に抵触する部分が増えていって、今回の決裂に至ったと推測される。ダリオ・アモディ自身が今年になって発表した、長文のエッセイ「Adolescence of Technology(テクノロジーの思春期)」の序文は、科学者でSF作家のカール・セーガンが書いた「Contact」の中の一シーンからの引用で始まる。この小説は後に映画化されたのでご覧になった方もおられると思う。ヒトラーが開会宣言をした1936年のベルリンオリンピックのテレビ中継のシグナルを宇宙のはるかかなたで受信した知的生命体により、「無事受け取った」という返信と同時に送られた設計図で建造された「時空旅行装置」に乗り込む科学者に、選定委員会が質問をする。

委員会:地球外知的生命体と会話をする機会があったとして、真っ先に聞きたいことは？科学者:「これだけの技術を開発しながら、いったいどうやって自己破滅もせずにこれまでやってこられたか？」です

このダリオ・アモディ氏の論文では、高性能な自律的AIによるリスク、その制御確保についての技術的/倫理的/法的考察、開発者と使用者が陥りやすいジレンマとそれらを正常化する方法、自律的AIの運用で直面する多くの問題点とその解決法、などについてワードファイルにして50ページ以上にわたって事細かに述べている。

アモディ氏が今回、国防総省との対立に至ったことは必然と考えらえる。

実際の戦争に使用されてしまったClaude

報道によると、アモディ氏の懸念通り、Claudeの優れたAI技術は、結局、最近ベネズエラとイランに攻撃を仕掛けた米国による軍事作戦の多くの場面で活躍した模様である。現在、国防総省との契約を引き継いだのは、かつてアモディ氏と対立したサム・アルトマン率いるOpenAIである。

米政府から「サプライチェーン上のリスク企業」に指定されてしまったAnthropic社は6か月の引継ぎ期間を経てすべての政府系ビジネスからは締め出されることになるが、最近のニュースでは、この事案があって以来、OpenAIのChatGPTからAnthropicのClaudeに乗り換えるユーザーが続出し、その件数が400万にも上り、Anthropicのサーバーがダウンするという事態が起こったらしいという報道もある。米国がベネズエラとイランに仕掛けた戦争の合法性についても疑問が付いており、今後の動きはかなり流動的である。

「思春期」の真っただ中にあるAI技術の今後を細心の注意を持って見守りたい。