現在、AIの活用があらゆる企業・団体で進むなか、その安全性（AIセーフティ）について議論される機会が増えています。AIという新しい技術をより良く、そして快適に活用するためには、何を・どのように・どの基準で安全性を確保すべきなのか――。悩みや迷いを抱える担当者も少なくないように思われます。こうした状況を踏まえ、2024年2月に政府横断の機関として設立されたAIセーフティ・インスティテュート（以下、AISI：エイシー）では、AIの安全性に関する評価手法や基準の検討、ならびにその普及活動を進めています。今回は、副所長・事務局長を務める平本 健二 氏に、AISIの活動についてお話を伺います。
-
独立行政法人情報処理推進機構 デジタル基盤センター長
AIセーフティ・インスティテュート 副所長・事務局長
平本 健二 氏
AISI設立の背景とその役割
――まずAISI設立の経緯についてお聞かせください。
平本 健二 氏（以下、平本）：AIの普及が広がり、2023年の広島AIプロセス（※1）、イギリスでのAIセーフティサミット（※2）開催など、世界的にAIの開発・利用の安全性に対する関心が高まってきたことが設立の背景です。そうした国際的な取り組みに早期から参加し、日本も先導的に取り組んでいくために、AISIが設立されました。
政府では、AISI 設立の前からAI事業者ガイドライン（第1.0版公表は2024年4月）の策定を進めるなど、AIセーフティの検討は進められていたことから、当時の総理が組織の立ち上げを表明してから約1か月半という短期間でAISIの設立が実現しました。
――AISIの役割とはどういったものなのでしょうか？
平本：AIの開発者は、安心してイノベーションを起こしていきたい。一方でユーザーは、安心して使えるAI製品を見定めたい。両者のニーズを満たすにはAIの安全性を評価する仕組みが必要で、それをつくるのがAISIの役割です。AI関連の技術は、四半期もあればすぐに新しいものが登場します。短いサイクルでAI世界のポートフォリオを整理しながら、どのテーマに、いつ着手すべきかを判断しています。
また、AIに関するルールが国ごとに違うと、メーカー、ベンダーが混乱しますから、世界のAIセーフティ組織と評価の方法を検討し調整するのも重要な役割です。我々のような組織が早い段階で国際調整に動いていけば、日本のベンダーが海外でビジネスをしやすくなりますし、逆に国内では海外ベンダーの製品を使いやすくなるでしょう。
国際協調からガイドライン・教材の作成、普及活動まで、多岐にわたる活動内容
――AISIの具体的な活動について伺えますか？
平本：設立以来、(1) 国際的なインターオペラビリティ（相互運用性）を取り、(2) 技術マップをつくって重点課題を見極め、ガイドラインを作成、(3) 一般の方々向けの教材提供をはじめとした普及活動を行う……、という流れで活動を進めてきました。
国際的なインターオペラビリティを取るためにまず行ったのは、アメリカがつくったガイドラインである「NIST AIリスクマネジメントフレームワーク(RMF)」と、我が国のAI事業者ガイドラインがどう対応しているのかの比較(クロスウォーク)でした。RMFが立派に仕上がっていたので、ヨーロッパやシンガポールも同様のクロスウォークを行っています。日本でもこれを行うことで、各国との情報対比が可能になります。このクロスウォーク文書がAISI最初のアウトプットになりました。
次の技術マップづくりとは、どの組織・省庁がどのような技術プロジェクトに取り組んでいるかを調査して、可視化することです。こうすることで各組織が重点と考えているポイントを洗い出すことができるので、そこに対してガイドラインを作成したり、未着手の領域を把握して技術の網羅化に役立てたりすることができます。
ガイドラインについては、AI事業者ガイドラインを基本的なバイブルとし、安全性評価のガイドやレッドチーミング手法ガイドのほか、エンドユーザーにも理解しやすい映像教材をつくり、安全にAIの開発・利用を行なってもらうための活動を展開しています。
さらに、ガイドラインの文書だけでは、具体的に「どうしたらいいのか？」ということもあるでしょうから、自動化ツールを開発してオープンソースソフトウェアとして配布しています。現在、AISIのサイトでは、導入しようとしたAIシステムが企業の要件に反する行動をするかどうかを確認するためのレッドチーミングツール、AIシステムの安全性評価を行うための評価ツールなどを公開しています。
-
AISIのHPで展開されているアウトプット：各種ガイドラインをはじめとするさまざまな教材をダウンロードすることができる
――さまざまな活動を行うなか、これらを円滑に進めるための組織的なポイントはあるのでしょうか？
ガイドラインづくりが重要ですが、さらにこのチームに加え、標準チームがいるというのも組織として重要なポイントです。標準チームが今、特に力を入れているのがジョイントサーティフィケーション（適合性評価）です。従来の製品は、その製品が導入されてから捨てられるまで安全性は変わりませんが、今はPCも自動車も搭載されたソフトウェアが導入後にアップデートされる時代です。最初に安全標準を満たした製品、安全性認定を受けた製品が、アップデートを繰り返した数年後も安全なままなのか、そのアップデートが適切にガバナンスされているのかということも重要になります。
そこで標準化チームでは、製品とガバナンスの監査を組み合わせて有効な安全性認定を行っていくジョイントサーティフィケーションの仕組みづくりに重点を置いて取り組んでいます。それだけでなく、各国で定められた安全標準、AIに学ばせるデータの品質標準などを把握しながら、次世代標準の在り方を検討するという重要な役割を担っています。
-
AISIの推進体制：6つのチームで構成される事務局が中心となり、さまざまな活動に取り組んでいる
――こうした活動を行うにはさまざまな分野のプロフェッショナルが必要だと思うのですが、現在AISIにはどのようなメンバーが所属されているのでしょうか？
平本：フルタイムが約20人、併任が約10人という体制です。当初は技術やセキュリティに関連する政府・省庁を中心に政策をつくり、民間企業、独立行政法人や国立研究所などのスペシャリストが技術を見るという構造になっていました。最近ではAIの広がりを受け、AIを利用する側の省庁や、民間企業からなど多様な参加者を募っています。
他国だと、特別大きいのがイギリスのAISIで200名ほどスタッフがいます。我々は小さな組織ですが、この人数でセキュリティ、リサーチ、教材作成まで行い、ガイドラインやツールなどを公開する数も多いので、世界的に「すごく頑張っているチーム」だと評価されています。
――直近の活動成果には、どのようなものがありますか？
平本：いま、「CAIOガイド（仮称）」のパブリックコメントを実施しており、今年度中に正式版を公表します。CAIO(Chief AI Officer)の主な役割は、適切なAIシステムを導入するとともに、CDO(Chief Data Officer：最高データ責任者)が管理するデータを活用し、AIを安全かつ最大限に利用することです。国内企業の約40％がCAIOを置いているという調査結果もあるようですが、今のところこの役職には明確なスキルや役割の定義がないのが課題でした。
そこで我々が、CAIOに求められる資質、持つべき観点、なすべきことや責任範囲なども含めて明文化したガイドをつくることにしました。海外には、個人的な経験をもとにCAIOとしてのガイドを書いた本や資料はありますが、国内にはそうした本やガイドとしてまとめたものもありませんでした。CAIOの重要性が着目されているだけに、これは注目されると思います。
また最近、AI関連のインシデントを対象に、どのような手順で確認・対応すべきか、これを指南するAI インシデントレスポンス・アプローチブックを公表しました。AI関連インシデントはディープフェイク、情報漏洩などさまざまなものがあるので、企業内でどう対応すべきなのかをまとめたものとなっています。
-
これまでのAISI活動実績
技術のスピードに合わせて、社会のスピードをアップさせる意識が重要
――今後、取り組もうとされている課題や、それに対してAISIがどう向き合おうとしているのかについて、お聞かせください。
平本：大きな課題として、技術の進展と社会のスピード、その足並みが揃わなくなっていることがあります。先ほども申し上げましたが、AIは新しい技術が短いスパンで登場し、世の中の状況を変えてしまいます。一方、その安全性確保や規制を行うための法律、条令、規則の整備には年単位の時間が必要です。このスピードのギャップをなんとかしないといけないと考えています。
そのために我々AISIは、これからどのような流れが来るのか、早め早めに情報をキャッチできるよう、学会や国際会合などでの人的コミュニケーションを密にしたり、海外のメルマガやつぶやきなどにも注目したりしています。こうしてアンテナを高くすることで、技術の動向を見極め、タイミングよくガイドラインなどを出していけるように努めています。
これからは、私たち全員がマインドセットを変える必要もあるでしょう。企業・組織はこれまで「四半期」を単なる会計期間、あるいは事業計画の区切りとして捉えてきたと思いますが、これからはリアルに四半期で世の中が変わっていってしまう時代になります。長年、馴染んできた仕組みを変えるのですから難しいことは分かっていますが、社会全体のスピードを上げること、そのためのマインドを持つことを、皆で考えなければなりません。
――最後に、AIの利活用に取り組んでいこうと考える方々に、アドバイスをいただけますか。
平本：ぜひとも我々AISIのサイトを見ていただければと思います。情報やガイドラインなどを続々と発表していますから、お役に立てるものがあるはずです。ただ、我々の資料をベースに自社向けのガイドラインをつくって安心するのではなく、それを常にアップデートしていく心持ちが重要です。
日本企業では新しい技術を試してみて、少しでもエラーが出ると使わなくなってしまうという傾向があるようです。AI利用においてはエラーが出たとしても「これはどうすれば改善できるのか」と前向きに考えていただきたいですね。AIは後ろ向きの思考では絶対に使えません。イノベーションを起こすために、前向きな思考で積極的にAIを活用し、新たな製品・サービス開発に挑戦していただければと思います。
（※1）2023年5月開催のG7広島サミットをきっかけに立ち上げ。高度なAIシステムの国際的なルールづくりを行うためのプロセス。
（※2）2023年11月、29の国と地域の参加。AIの安全性が議論され、「ブレッチリー宣言」が採択された。
[PR]提供：TECH+広告企画
