NVIDIAらがオープンなAI安全対策で新団体「Open Secure AI Alliance」発足

NVIDIAは7月27日、Microsoft、SpaceX、Palantir、Cisco、SAPなど数十社とともに、オープンなAIモデル・ツールを活用したサイバーセキュリティ強化を目指す新団体「Open Secure AI Alliance」の発足を発表した。Linux FoundationのAkritesイニシアチブやOpenSSFコミュニティの取り組みを土台に、脆弱性の修正・開示を進めるという。

米議会でも規制強化を求める声が強まる

発足の直接的な引き金となったのは、Hugging Faceが受けたサイバー攻撃だ。Hugging Faceは米国の主要なクローズドモデルでは攻撃側と防御側を区別できず、自社の防御に活用できなかったという。

最終的に、自分たちのインフラ上に中国製オープンウェイトモデル「GLM 5.2」をホストして1万7000件以上の挙動を分析し、侵入を封じ込めた。

NVIDIAはプレスリリースで「防御側が高度なAIを自社インフラ上で検証・改変・実行できなければ、対応のスピードが最も求められる瞬間に身動きが取れなくなる」と指摘している。

背景には、中国製AIモデルを巡る米国内の規制論議の高まりがある。Scott Bessent財務長官は中国企業による「蒸留」攻撃に対する制裁の可能性に言及しており、米議会でも規制強化を求める声が強まっているという。

オープンモデルなどは規制対象ではなく「防御上の資産」として扱うよう求める

一方で、現時点で最も高性能なオープンウェイトモデルの多くを中国企業が握っている状況もあり、NVIDIA、Microsoft、Meta、Palantirなど20社以上は先週、性急な規制が「競争を阻害し、技術革新を海外に流出させかねない」とする書簡を政策当局に提出したばかりだった。

米外交問題評議会(CFR)のChris McGuire氏はCNBCの取材に対し「ワシントンでの議論はオープンソース対クローズドソースではなく、中国による知的財産の侵害を容認するかどうかの議論だ」と述べている。

NVIDIAはアライアンスへの貢献として、オープンなモデルや重み、データに加え、新たなエージェントハーネス研究プロジェクト「NOOA(NVIDIA Labs Object-Oriented Agent)」をGitHub上で公開した。

アライアンスは「防御側があらゆる場所で信頼・制御できるオープンでフロンティアなツールを持てるようにすること」をミッションに掲げている。政策当局に対しては、オープンモデルやセキュリティツールを規制対象ではなく「防御上の資産」として扱うよう求めており、政府・産業界・研究者に参加を呼びかけている。