スマートグラスで初対面の人物を即特定、大学生が暴いた生成AIの“悪しき可能性”

ハーバード大学の学生が、生成AI時代のディストピアはもう始まっていると警告しています。彼らは簡単に手に入れられるスマートグラスと、誰でも使えるサービスを組み合わせて、目の前にいる人の情報(身元、電話番号、住所など)をほぼリアルタイムで取得できるシステムを構築しました。「テックトピア:米国のテクノロジー業界の舞台裏」の過去回はこちらを参照。

I-XRAYとは？

駅のホームでベンチに座っている女性に若い男性が話しかけます。「ベッツィだよね! ケンブリッジコミュニティファウンデーションで会ったと思うんだけど…」。

「そうよ」とベッツィ。男性が自分の名前とケンブリッジコミュニティファウンデーションのことを知っているため、面識があると思いました。「また会えてうれしいよ」と握手を求める男性に、ベッツィは立ち上がって笑顔で握手に応じました。

実は、この2人は駅で偶然居合わせただけで、このときが初対面でした。それなのになぜ男性が女性の名前とケンブリッジコミュニティファウンデーションのことを知っていたのかというと、彼はMetaのスマートグラス「Ray-Ban Meta Smart Glasses」(以下Metaスマートグラス)をかけており、カメラで女性をキャプチャし、顔認識から該当すると思われる人物の個人情報を瞬時に入手していたのです。もちろん、Metaスマートグラスにはそのような機能はありません。

• 「演出なし、初対面です」と記載されたデモ動画。ベッツィという女性は、自分のことをよく知っている男性に警戒感を解いている(@AnhPhuNguyen1より)

I-XRAYと名付けられたこの技術は、ハーバード大学の学生2人がスマートグラス、顔認識技術、LLM(大規模言語モデル)を組み合わせることで、目の前にいる人の情報(身元、電話番号、住所など)をほぼリアルタイムで知り得ることを示すデモとして作成したものです。