AI研究者のYoshua Bengio氏やElom Musk(イーロン・マスク)氏らが、大規模なAI実験を一時停止することを求める公開書簡「Pause Giant AI Experiments: An Open Letter」を発表した。書簡はAIの危険性について注意喚起し、熾烈化する競争に一時停止を求めるものだ。

大規模なAI研究を最低半年は一時停止を

ここ数カ月にわたるAIの盛り上がりに対して「AIラボは、パワフルなデジタルマインドを開発、実装する競争に陥っている。もはや作成者ですら理解、予測などを確実に制御できない」と警告する。

「高度なAIは地球上の生命の歴史に大きな変化をもたらす可能性があり、相応の注意とリソースを持って計画・管理されるべきだ。残念ながら、現状ではそのような形で計画や管理が行われていない」と書簡。

そして「現代のAIシステムは一般的なタスクにおいて人間と競争し得る能力を持ち始めている」とし、すべてのAI研究に対してGPT-4よりも強力なAIシステムのトレーニングをすぐさま最低半年は一時停止することを求めている。それができない場合、政府の介入により猶予期間(モラトリアム)を設けるべきだという。

この期間を利用して、高度なAIの設計、開発についてセーフティプロトコルを確立して共有し、独立した外部専門家により厳格に監査や監督される体制を整えることを提案している。

AIをより良いものにするための提言

書簡は「機械がわれわれの情報チャネルをプロバガンダや真実ではないもので溢れさせて良いのか、自分を満たしてくれる仕事を含めてすべての仕事を自動化してしまって良いのか、われわれよりも賢く、数も多い非人間のマインドがわれわれを時代遅れにし、リプレイスされて良いのか、などを問う必要がある」とも記している。

そして「AIの研究開発は、現在のパワフルな最先端のシステムをより正確、安全、理解可能、透明、堅牢、相互運用可能、信頼、忠実なものにすべきだ」とし、「AIの“夏休み”を楽しみ、準備が足りない状態で秋(新学期)を迎えないように」と結んでいる。

Bengio氏はカナダ・モントリオール大学教授、AI研究所Milaの創業者兼科学ディレクターを務め、2018年にチューリング賞を受賞したニューラルネットワークや深層学習の研究者。

公開書簡にはカリオルニア大学バークレー校教授、Center for Intelligent Systemsディレクターを務め「Artificial Intelligence: a Modern Approach(邦題は「エージェントアプローチ人工知能 第2版」)」などの著書をもつStuart Russell氏、「Sapiens(邦題「サピエンス全史」)」などの著作を持つヘブライ大学教授のYuval Noah Harari氏、産業界からはマスク氏(SpaceX、Tesla、TwitterのCEO)やApple共同創業者のSteve Wozniak氏なども名を連ねる。この公開書簡には誰でも賛同できる。本稿執筆時、署名の数は1340人以上に達している。