先日、フィンランド・ヘルシンキの「Cable Factory」で「Sphere 2024」を開催したセキュリティ企業のWithSecure(ウィズセキュア)。本稿では、2日目の基調講演に登壇したWithSecure CRO(Chief Research Officer)のMikko Hypponen(ミッコ・ヒッポネン)氏の「We Can't Uninvent Things」(私たちは物事を発明することはできない)をテーマにした話を紹介する。

革新的な技術は良い面も悪い面も受け入れざるを得ない

登壇するなり、ヒッポネン氏は「私が最初に分析したマルウェアは1992年にロシアで作成され、広まった『Phantom』というものです。そして、この分野で働いてきた30年以上の年月を通じて、技術の変化がどのように私たちの社会を変えているかについて考えてきました。なぜなら、技術革命ほど私たちの社会を形作るものは他にありません」と述べた。

  • WithSecure CRO(Chief Research Officer)のMikko Hypponen(ミッコ・ヒッポネン)氏

    WithSecure CRO(Chief Research Officer)のMikko Hypponen(ミッコ・ヒッポネン)氏

同氏は産業革命から急速な技術革命はスタートし、体を酷使していたことを機械で代替させ、電力の革命、インターネットによる接続の革命、現在のAIまたは生成AIの革命と続いており、これらはすべてトレードオフだという。というのも技術革命から表面的に素晴らしい成果を得ると同時に、裏側では必ずデメリットも存在するからだ。

何かを発明し、技術革新を行うとき、それを望むかどうかに関わらず、永遠に私たちとともにあり、多くの場合は消えてほしくないと考えるという。例えば、私たちの時代の最大の発明の1つであるインターネットは多くの利益、多くの新しいビジネスチャンス、多くの新しいエンターテイメント形式、多くの接続形式など最高なものをもたらした一方、オンライン犯罪、オンラインリスクなどをもたらしたひどいのものでもあるとのことだ。

  • インターネットは最高であると同時にひどいという

    インターネットは最高であると同時にひどいという

ヒッポネン氏は「好むと好まざるとにかかわらず、悪い面も受け入れなければなりません。したがって、インターネットはこの素晴らしさと同時に恐ろしさを持つ典型的な例です。これは私たちが消えてほしくない革新の例です」と指摘。

同氏によると、革新的な技術は良い面が明らかに悪い面よりも大きいことから、悪い面を受け入れざるを得ないという。つまり、技術革命は表裏一体ということだろう。

技術自体をなくすことはできない

インターネットがもたらした変化の例にSNS(ソーシャルネットワーキングメディア)を挙げており、SNSが登場する以前はテレビやラジオ、新聞のような中央集権的な情報源から情報を得ていたことに触れた。

こうしたSNSの流行を垣間見た同氏は「突然、私たちは双方向のルートを持つようになりました。SNSは今や誰もが自分の考えを全員に公開することができます。以前はトップダウンでしたが、今はピアツーピアです。この側面は良いアイデアのように思えますが、悪い面も非常に明確です。あらゆる種類の変わり者などの影響で意見の極端な分極化が起こり、陰謀論が従来以上に栄える主な理由になっています。

また、もう1つの例として暗号化技術を示しつつ「約35年前に強力で解読不可能な暗号化アルゴリズムを発明しました。暗号化技術は、地球上のコンピューティングパワーでは解読できないほど長いキーを使用し、解読するのに膨大な年月がかかりました」と話す。

暗号化技術は人類にインターネット上でセキュリティとプライバシーを提供する技術であり、オンラインで何かをするたびに、強力で解読不可能な暗号化を使用しているが、犯罪者やテロリストなどが技術を使用する際は、ひどい状況になるという。

仮にすべての安全な暗号化アプリやメッセージングシステムを破壊したとしても、基本的なプログラミングスキルを持つ誰でも最寄りの図書館に行って、基本的な数学の本を借りることができ、それには解読不可能な暗号化を実装する方法が記載されていることから、技術自体をなくすことはできないとの見立てだ。

そのため、最善のことは違法にすることではあるものの、暗号化は法律を破る者以外は使用しなくなるため法律を制定すると強力な暗号化を使用するのは犯罪者だけになり、損をするのは一般市民だという。

サイバー犯罪ユニコーンの台頭

ヒッポネン氏は「これが、一度発明してしまった革新を取り除くことができないという意味です。強力な暗号化は、害を及ぼす他の多くの方法もあり、ランサムウェアはその一例です。強力な暗号化技術がなければ、被害者のファイルを支払いなしに回復できないように暗号化することはできません」と語る。

そして、暗号化技術は暗号通貨と密接に関連しており、お金を動かすことを可能とし、スマートコントラクトやプログラマブルな金融を構築することもできるが、多くのオンライン犯罪が発生する理由の1つであることは明らかだという。

同氏は「暗号通貨は、オンラインにおける金銭的な窃取の手段として利用されます。オンライン犯罪はビットコインとともに存在し、暗号通貨の世界と仮想通貨の革新は、世界最大のオンライン犯罪を行うギャングを活気づけてきました。LockBitやAKIRAなどのランサムウェアギャングは、相当な利益を得ています。さらに、暗号通貨に富を保持しており、評価額が上がったため裕福になり、自分たちのデータセンターを運営し、より多くの人を雇うことができるようになっています」との認識を示す。

こうした組織には人事部門があり、弁護士がおり、物理的なオフィス、物理的なデータセンターを保有し、そしてブランディングを始める、つまり自分たちをブランド化する。名前を持ち、ロゴを作成することで恐ろしい存在であることを示しており、ヒッポネン氏はユニコーン企業になぞらえて「Cyber crime unicorn」(サイバー犯罪ユニコーン)と呼ぶ。

  • サイバー犯罪ユニコーンのロゴ一覧

    サイバー犯罪ユニコーンのロゴ一覧

そして、最近判明したこととして、サイバー犯罪ユニコーンがTor(The onion router)を使用しているという事実だ。Torは、米国海軍調査研究所の出資で開発された匿名通信技術のオニオンルーティングをもとに、TCP(Transmission Control Protocol)を用いた通信を匿名化するための規格となる。

外部のインターネットにアクセスし、国内で安全かつ確実に通信する必要がある人々が、権威主義社会や全体主義国家内で使用できるネットワークを構築するためにも利用されていることから、良い側面もあるという。

しかし、通常であればサーバはIPアドレスなどで不審なことが起きていれば追跡は可能だが、Torはサーバの場所を隠すため追跡が不可能となっている。現在、銃器や麻薬などの売買がされており、特に麻薬の売買は現実世界からTorに移行しているとのことだ。

では、量子コンピューターはどうか。同氏は新しいレベルのコンピューティング能力を有しているため「素晴らしくて驚異的であり、とてもクール」と述べている。その反面、デメリットとして暗号化アルゴリズムが破られる可能性がある。これには、Webのオンラインストア、オンラインバンキング、メッセージングシステムが含まれている。

量子コンピュータを安全にするためには、大規模な取り組みが必要となり、PCすべてのブラウザを変更するだけでなく、電話やスマートウォッチ、TV、車も更新する必要があるとのことだ。

生成AIの進化は“狂気じみている”

そして、最後にAIについてだ。AIに関してもヒッポネン氏は「最高であり、最低」と述べている。現在、AIの革命が起きている理由はGPU上で実行される計算能力と、新しい機械学習アルゴリズムなどによるものであり、NVIDIAの存在がゲームチェンジャーだという。

実際、NVIDIAにおける2023年第3四半期の販売統計(出典：Omdia Research)ではGPU「H100」の販売台数は約50万台となっており、MicrosoftとMetaで各15万台、Google、Amazon、Oracleが各5万台となっている。ただ、AIモデルをトレー二ングするためだけに何千億もの投資を行い、電力消費も大きいものであることから環境には大きな影響を及ぼす点を指摘している。

  • NVIDIAにおける2023年第3四半期の販売統計(出典：Omdia Research)

    NVIDIAにおける2023年第3四半期の販売統計(出典：Omdia Research)

ヒッポネン氏は昨年の「Sphere 2023」において“AI史上で最も暑い夏”と表現したが、これは明らかに間違いであり、今こそが“最も暑い夏”だという。Sphere 2023では生成AIに「上昇するシンセサイザーが、残響の多いアルペジオを演奏している。パッド、サブ・ベース・ライン、ソフトなドラムがそれを支える。この曲はシンセサイザーの音にあふれ、癒しと冒険的な雰囲気を作り出している」というプロンプトを与え、会場で流したが非常にシンプルなものだった。

Sphere 2024では、音楽生成AI「Udio」を使い、プロンプトとして「フィンランドのCable Factoryに集うサイバーセキュリティのオタクたちのロックソング」と入力し、30秒後にはタイトル、歌詞、アレンジまでを含めたバンドが奏でる楽曲「Code Warriors」が生成され、会場で流した。

  • 音楽生成AI「Udio」を使い、本格的な楽曲を生成した

    音楽生成AI「Udio」を使い、本格的な楽曲を生成した

以下の動画30分過ぎ辺りから昨年と今年の楽曲がそれぞれ聴ける。

ヒッポネン氏は「本当に初めて作ったものだと信じられますか？」と驚きを隠さず、歌詞をフィンランド語にしたり、曲調をタンゴやデスメタル、ギャングスタラップなどに変更したりしても、まともなものを生成したという。

ヒッポネン氏は「AIにキャッチーな曲を作るように頼むと人間にとって何がキャッチーなのかを知っていて、そのために最適化しているのです。今年中にはトップ40にランキング入りする曲も出てくるかもしれません。人間が芸術は創造するものだと考えていたので、これは少し不安です。ただ、これはアートであり、来年、10年後、20年後を想像してみてください。去年と今年の変化を考えてみてください。狂気じみています」と話す。

また、同氏が講演を行った「RSAカンファレンス 2024」でサンフランシスコを訪れた際には自動運転タクシーサービス「Waymo」を利用し、ラッシュアワーの時間帯でも問題なく自動運転しており、AIの発展は「素晴らしいもの」と讃えていた。

  • サンフランシスコ中心部で走行する「Waymo」

    サンフランシスコ中心部で走行する「Waymo」

インターネットの番人

一方、ヒッポネン氏は「私たちはLLM(大規模言語モデル)を使用したマルウェアの最初の例を見ました。もちろん、多くのディープフェイクもたくさん見ていますが、今日のディープフェイクは消費者詐欺に使用される有名人のディープフェイクです。企業の観客を騙すのではなく、通常は暗号通貨トークンを暗号通貨で購入する消費者です」と説明する。 現状で企業におけるディープフェイクは、CEO(最高経営責任者)とCFO(最高財務責任者)を騙った2件のみであり、いずれもリアルタイムではなく、事前にレンダリングされた攻撃で盗まれたケースだという。

同氏は「あらゆる種類の攻撃を行う技術はありますが、まだ企業に対する大規模な攻撃は見られていません。それは悪化するでしょうか？恐らく、悪化するでしょうが、今のところはまだ大きな問題ではありません。そのため、AIのリスクに関する実用的なアドバイスを1つお伝えしましょう」と話しながら、ゴム製の指を取り出した。

  • ヒッポネン氏

    ヒッポネン氏

そして、同氏は「生成AIで作成された画像を見てきましたし、問題があることも知っています。彼は手に問題を抱えています。特に人間の指を表現することに問題があります。そのため、誰かとセルフィ―を撮る際に、3ユーロで買った指をつけて撮影します。その後、あなたはその場所にいたことを否定できます。あまり実用的なティップスではないですね(笑)。われわれがやるべきことは1つしか残されていません。それは“インターネットの番人”だということです」と述べ、講演を締めくくった。