5月下旬にフィンランド・ヘルシンキでWithSecure(ウィズセキュア)が主催した「Sphere 2023」。本稿ではWithSecure CRO(Chief Research Officer)のMikko Hypponen(ミッコ・ヒッポネン)氏の単独インタビューを紹介する。

AIフレームワークを破る方法は無限にある

--基調講演では生成AIについて熱量高く話されていましたが、脅威もあります。プロンプト・インジェクション(対話型AIに対する攻撃)については、どのようにお考えですか？

ヒッポネン氏(以下、敬称略)：われわれが構築しているAIのフレームワークを保護することは極めて重要です。そして、これらのシステムのセキュリティを破る方法は無限にあります。これらのAIシステムは、有益なことでわれわれを助けてくれることもあれば、破壊的なことももたらします。

だから、AIフレームワークを構築している企業はアクセスを制限する責任がある。残念ながら、このようなLLM(大規模言語モデル)を騙して、本来やるべきでないことをさせてしまう方法は、ほとんど無制限にあるようです。

  • WithSecure CRO(Chief Research Officer) Mikko Hypponen(ミッコ・ヒッポネン)氏

    WithSecure CRO(Chief Research Officer) Mikko Hypponen(ミッコ・ヒッポネン)氏

私は、OpenAIがこの問題と戦う方法を気に入っています。OpenAIはChatGPTを壊すためにレッドチームを持ち、プロンプト・インジェクションや他の類似のテクニックでセキュリティを破ろうとする100人のボランティアも抱えています。しかし、完璧にすることはできません。

可能な限り良くしようと努力しなければなりません。そして私は、OpenAIほどプロンプト・インジェクション対策に力を入れている企業を他に知りません。私はOpenAIの安全性とセキュリティに対する考え方が好きです。

--プロンプトインジェクションへの対応はどうでしょうか？

ヒッポネン：プロンプト・インジェクション攻撃は非常に特殊で、GPTのようなLLMを使います。ですから、LLMに基づいていないAIフレームワークは他にもたくさんあります。例えば、私たちがサイバーセキュリティ製品に自社で使用しているシステムはすべてそうです。

これらは、言語モデルに基づいているわけではありません。つまり、私たちの製品に対するプロンプト・インジェクション攻撃については心配していませんが、プロンプト・インジェクション攻撃については研究しています。

当社は、18年前の2006年に世界で初めて機械学習を活用したサイバーセキュリティ製品を提供しています。

その結果は驚くべきものです。まったく新しい種類の攻撃を、かつてない速さで検知できるようになりました。欠点は、この種の防御システムが、もはや完全には理解できないブラックボックスのようになっていることです。

パンデミックの直前、私はGoogleを訪れ、Google検索のチームと昼食をともにしました。その昼食中に、私は関連する何かを検索し、Googleの検索結果をエンジニアに見せ、なぜこのような結果が表示されるのかと尋ねました。

彼らは「なぜそのような結果が出るのかはわかりません」と言いました。Google検索は機械学習フレームワークであり、15年間も自己学習を続けてます。もはや誰もなぜ検索結果が出るのかを理解していません。それはブラックボックスの上にブラックボックスが乗っているからです。われわれはそれを構築していますと。

Open AIはAI規制議論の先鞭をつけた

--AIの規制に関して、官民共同で取り組む必要があるかと思いますが、どのようにお考えですか？

ヒッポネン：Open AIのChatGPTは、各国政府に先鞭をつけるためでした。つまり、彼らはOpenAIに対して規制を行わなければならないと気づきました。OpenAIはChatGPTをリリースした時は多くの批判を受けました。

まだ多くの問題を抱えていますが、彼らは法律や規制に関する議論を開始したのです。AIの技術に関して。それが彼らの望みだった。民間企業が政府に行って、政府に「私たちを規制してください」と言うのは本当に珍しいことです。

AIにまつわるプライバシーを規制し、消費者がAIとの対話を知る権利を規定していく必要があります。

その点、EUは先行しており、最初に何かしらのAIに関する法律が制定されるかもしれません。実は私も復活祭にイタリアに行ってきたのですが、ChatGPTが使えませんでした。

これはイタリア政府がブロックしているわけではなく、OpenAIがイタリア市場から撤退したからです。イタリア政府から、意思決定に使用するデータのプライバシーについて異議を唱えられたからです。

--AIの回答は完璧ではないですが、意志を持つようになるのでしょうか？

ヒッポネン：私はあるスタートアップに投資しているのですが、そのスタートアップはGPTを2年以上利用し、営業システムに自動化を組み込んでいます。

例えば、AIが新しい不動産を必要とする企業を見つけ、あらゆるデータソースから探し、実際にセールスメッセージを作成します。このようなテクノロジーは、他の方法では得られないような大きな利益をもたらしてくれるのです。

そして、その企業はGPTを利用しています。つまり、AIがそれを行えるように商用APIを用意しているのです。つまり、すでに実現しているのです。

いずれ、AI自体が意志を持つようになるでしょう。そして、現在のLLMは間違いを犯しますが、すでに驚くほど良くなっています。12カ月後を想像してみてください。あるいは5年後、10年後を。私たちは映画の中のように愛情を持ち、夢を見て、働くAIを手に入れるでしょう。