米ニューヨーク州のコーネル大学らの研究チームが、監視カメラのAIから認識されないセーターを開発し、ネットで注目を集めている。
-
対AI用の透明マントだ
注目を集めているのは、Meta社（旧Facebook社）の人工知能研究所Meta AIの協力を得て開発された「INVISIBILITY CLOAK（透明マント）」と呼ばれるセーターだ。透明マントというが、実際に透明になれるわけではなく、これを着ることで街中の監視カメラのAIから認識されないようになり、社会から透明になれるという。現代の超監視社会に抗うかのようなマント、というかセーターだ。
同研究チームで、米メリーランド州のメリーランド大学のTom Goldstein教授の公式サイトでは、この「INVISIBILITY CLOAK」のデモ動画も公開している。動画では、AIが人間を検知すると青い枠で囲われるのだが、このセーターを着ていると、青い枠が消えてしまうのが確認できる。AIが人間として認識できず、社会から透明になってしまうのだ。
さて、このセーター、なんとも言えない「けばけばしい」色合いのデザインなのだが、仕組みとしては、AIモデルへの入力に対して、誤った出力をするように入力データに加工を加え、AIを騙す攻撃手段である敵対的攻撃というものをデザインに落とし込んでいるのだそう。実験では、MicroSoft社が提供する画像データセット「COCO」で学習したYOLOv2という物体検出のアルゴリズムを用いた監視カメラを使用。この監視カメラのAIは物体らしさをスコアで評価して、人間かどうかを判断しているそうだが、このセーターのデザインには、その物体らしさのスコアを下げる効果があるのだとか。
ネット上では「これが対AI用迷彩……」「AIからは目立たんけど人間からは目立つんだよなぁ」「新たな都市迷彩」などの声が寄せられた。
