慶應義塾大学SFC Computational Creativity Lab(CCLab)は、AIに誤認識されやすい衣服「UNLABELED」を制作した。
わたしたちの私生活は、至るところで監視カメラで監視されている。監視カメラに記録されたデータは、気づかないうちにインターネット上で個人の行動データとして社会の効率や利益のために搾取されている、そんな課題感、懸念点から、このテクノロジーは生み出されたようだ。今回は、そんな話題について紹介したいと思う。
カモフラージュ服UNLABELEDとは？
CCLabが開発したカモフラージュ服、UNLABELED。
ではなぜ、UNLABELEDを制作したのだろうか。実は以下のような懸念、課題が背景にあるようだ。
外に出れば、どこにでも監視カメラが設置されている。この監視カメラで取得されたデータは、気づかないうちに社会の効率や利益のために搾取されているケースがある。そこで、プライバシーを保護する意味でUNLABELEDを制作したのだという。
では、UNLABELEDにはどのような機能が備わっているのだろうか。
このUNLABELEDには、「Adversarial Example」という技術を活用しているという。この技術は、AIが正しく認識しているモデルに対して、人には認識できないほどの小さなノイズを加えて、AIの誤認識を誘発する技術。まだ、実世界へインストールされた事例が少ない技術だという。
-
カモフラージュ服「UNLABELED」(出典:慶應大学)
UNLABELEDの制作には、PythonとUnityと活用したシステムを構築。人間の全身をスキャンした3Dモデルに対して、生成されたAdversarial Examplesを貼り付けた画像を学習データとし、「人」として認識される確率が少しでも下がるように、徐々に画像をアップデートする。
こうして3Dシミュレーションによる学習データの生成とテクスチャのアップデートのプロセスを繰り返すことで、服として着用したときにも有効なAdversarial Examplesを生成することに成功したのだ。
-
UNLABELEDを着用した際に、AIが認識できていない様子。周囲の人にはAIが認識した際の緑の枠が掲出されている(出典:慶應大学)
そして、その有効なAdversarial Examplesのパターンをポリエステル混紡の無地生地に熱転写で印刷を行い、パターンカット、縫製、仕上げという一般的な衣服製作の手順を踏み、服として仕立て上げたという。
カモフラージュ服「UNLABELED」の動画
いかがだったろうか。このカモフラージュ服UNLABELEDをまとうことで、現在のあちらこちらに設置されている監視カメラに人として認識されなくなり、データ化される事を防ぐ事ができるのだ。
これによって、自らの“人権”を守ることができるのではないだろうか。
