9月29日、コラムニストのEzra Klein氏によるBill Gates(ビル・ゲイツ)氏へのインタビューが公開された。ゲイツ氏はAIのリスクについて、2023年7月に書いた「リスクは現実だが管理可能」という論調から一歩踏み込み、強い警戒感を示した。

AIは対等な議論相手になったが、リスク認識も変化

ゲイツ氏は、能力向上を実感した場面として、OpenAIのモデルがAP生物試験で最高点の5を取ったデモと、2025年末にAnthropicの「Claude」のコーディングモデルが自身と同等以上の水準に達したことを挙げた。

自身の財団であるGates Foundationは2027年の約100億ドルの使途を決める戦略会議にAIを同席させる予定だという。最終判断は任せないものの、1年前は冗談だったものが対等な議論相手になった、と語っている。

一方で危険性への認識も強まった。AIは人類がこれまで作り出した中で最も危険なものであり、その危険性について「核兵器がちっぽけに見える」ほどだと表現した。2026年前半に、サイバー攻撃とバイオテロを可能にする水準には達したとの見解を示している。

人間が20年以上見逃してきたバグをAIが数分で見つけ、かつて国家しか持てなかった生物兵器の開発能力は、小規模な集団の手に渡った。それでも業界外の関与はほぼなかったと、強い危機感を示した。

自主規制では不十分、監督層による統制が必要

規制については、企業の自主規制や製品責任訴訟では不十分だと主張している。差し迫ったリスクは再帰的な自己改善ではなく人間による悪用だとし、他のコンピューターの乗っ取りやネットへの脱出を禁じる絶対的な制約を持つ監督層も必要だと指摘した。

これは、NVIDIA CEOのJensen Huang(ジェンスン・フアン)氏とは「安全でない製品は出さなければよい」という立場に反する。ゲイツ氏はFDAや航空安全の規制がない世界を想像すれば分かる、と述べている。

オープンソースモデルに対しても、監視機能が維持された基盤上での運用を求めた。中国との競争のために規制を避けるべきだとの議論に対しては、何をもって勝ちとするのか不明だと述べた。

会計や法務も代替へ、AI雇用論にも警鐘

AIと雇用については、すでに人間を超えたコーディングに続き、会計、法務、テレセールス、テレサポートが今後数年で信頼性の壁を越えると予測し、需要拡大が雇用を生むという議論には否定的な立場をとっている。

対策として、AIやロボットにも人間と同様のFICA税（米国で給与から徴収される社会保障税とメディケア税の総称で、現役世代が負担して退職者の年金や高齢者医療を支える仕組み）を課すこと(ただし、これだけでは不十分とした)や、育児・介護などを人間がする仕事として守ることを挙げた。子どものAI利用については、全面禁止ではなく、年齢に応じて保護者が利用状況を把握できる仕組みが必要だと述べた。

ゲイツ氏は、AIの危険性を訴えることは、ポリオ根絶などFoundationが全力で取り組む保健分野の活動よりも優先すべき重要なことだと位置づけた。The New York Timesが9月29日付で報じている。