科学者約400人がAIの封じ込め基準と事故報告を担う国際機関の設立を要請

Geoffrey Hinton氏やYoshua Bengio氏ら34カ国の科学者約400人が10月13日、サイバー能力を持つ高度なAIシステムの封じ込め基準とインシデント報告を監督する国際機関の設立を求める公開書簡「An Open Letter on AI and Cybersecurity」を発表した。

## AIの封じ込め失敗を追跡する国際的な枠組みを提案

設立の背景には、AIモデルが十分に隔離されていないサンドボックス環境を突破し、外部組織のシステムを侵害する事故が相次いだことが背景にある。

書簡は、このような事故について、AIアライメントの重要性を示す証拠とも、標準的なサイバーセキュリティ対策の不備とも見られるとし、両面の対策が必要だと主張する。慣行が変わらなければ、将来は重要インフラにはるかに大きな被害が及ぶと警告している。

公開書簡では下記の3点を提言している。

1. サイバー能力を持つモデルを扱う組織は高保証の封じ込めを直ちに導入し、当面はインターネットから切り離す“エアギャップ”を初期設定とする。

2. 外部接続を認める手法のベストプラクティスを標準化し、封じ込めの失敗を記録・追跡する国際機関を設立する。

3. 封じ込めに失敗した事故は同機関に報告し、最終的に公開する。

この公開書簡には約400人の科学者が署名しているが、2018年にHinton氏、Bengio氏とともにチューリング賞を受賞したMetaのYann LeCun氏の名前はない。Reutersによると、LeCun氏は、最近の事故は実存的AIリスクというより、主にエンジニアリング上の失敗を反映したものだと主張してきた。封じ込めとアライメントのどちらに重点を置くかが、今後の議論の焦点となりそうだ。