GoogleのAI部門であるDeepMindの従業員200人近くが、今年初めに軍事組織との契約を取りやめるよう求める書簡に署名した。書簡は、Googleの技術が軍に売られているという懸念がAIラボ内部で高まる中で回覧されたようだ。
イスラエル国防省にクラウドサービスを提供
Googleは3月27日付の社内文書でイスラエル国防省にクラウドサービスを提供しており、ガザ地区での戦争中にその提携関係を深化する交渉を行っていることが明らかになった。8月22日付でTIMEが報じている。
書簡は、軍事技術には決して携わらないと誓約しているAI部門の少なくとも一部の従業員と、DeepMind社内で開発されたAIを含むGoogleのサービスをイスラエルやアメリカを含むいくつかの政府や軍に販売する契約を結んでいるGoogleのクラウド事業との間で、社内で紛争が拡大していることの表れだという。
署名はDeepMind全体の従業員数の約5%に相当し、割合は小さいが機械学習の優秀な人材が求められている業界にとっては、従業員の不安は相当なレベルであると指摘。
Google DeepMind社内で回覧された書簡には「軍事および兵器製造へのいかなる関与も、倫理的で責任あるAIのリーダーとしてのわれわれの立場に影響を及ぼし、われわれのミッション・ステートメントと明文化されたAI原則に反する」と、書かれている。
これらの原則は、同社が「全体的な危害」を引き起こす可能性のあるAIの応用を追求しないこと、傷害を引き起こすことが「主な目的または実装」である兵器やその他の技術に貢献しないこと、「その目的が広く受け入れられている国際法や人権の原則に反する」技術を構築しないことを明記している。
書簡では署名者たちが「GoogleのAI原則が確実に守られること」に関心を持っていると述べ「DeepMindのリーダーシップが私たちの懸念を共有していると信じています」と付け加えている。
イスラエル国防省は「ランディングゾーン」とする安全なエントリーポイントよりGoogle Cloudにアクセスし、デーの保存や処理、AIサービスを利用しているという。また、契約書のドラフトで、Googleはイスラエル国防省にコンサルティングサービスとして100万ドル以上を請求していることも報じている。
TIMEが確認した契約書にはGoogle、イスラエル国防省の署名はなかったものの、文書には署名は「Project Nimbus」としてオンラインで完了すると記されていたとのことだ。
Project Nimbusはイスラエル政府、国防機関などにクラウドソリューションを提供するもので、イスラエル財務省が2021年4月に発表した。
Googleの広報担当者はTIMEの取材に対し「AI技術を開発し、顧客に提供する際には、責任を持って技術を開発するという当社のコミットメントを示したAI原則を遵守しています。Nimbusとの契約は、イスラエル政府省庁が当社の商用クラウド上で実行するワークロードのためのものであり、彼らは当社の利用規約と利用ポリシーを遵守することに同意しています。この作業は、兵器や諜報機関に関連する、機密性の高い、軍事的なワークロードを対象とするものではありません」とコメント。
書簡はDeepMindのリーダーに対し、軍や兵器メーカーがGoogle Cloudのユーザーであるという疑惑を調査すること、軍用ユーザーに対するDeepMindのテクノロジーへのアクセスを停止すること、DeepMindのテクノロジーが軍に使用されるのを防ぐ責任を負う新たなガバナンス機関を設置することを求めている。
Deep Mindの社員は5月16日付で書簡を作成、Googleが軍事組織と契約していることへの懸念、倫理的かつ責任あるAIリーダーとしての立場に影響を与えるといったことが綴られているという。