ベルリンAI監視カメラ実証実験、検知逃れる迷彩シャツ登場
ドイツを拠点とするデザイナーのジーモン・ヴェッカート氏が、AIの映像解析システムに人として検知されない色鮮やかな柄のシャツ「Digital Camouflage（デジタル・カモフラージュ）」を製作した。ベルリンのコットブッサー・トーア駅周辺で8月に始まるAI映像監視の実証実験への応答としてつくられたものだ。デザイン誌Dezeenが8月25日付で紹介した。
何が起きたのか
このシャツは、AIによる物体検知システムが「人」として認識するものの前提を崩すことで、システムを混乱させることを狙っている。ヴェッカート氏はDezeenの取材に「AIシステムは何層もの処理でできていて、人間とは何かを学んだことは一度もない。何百万枚もの学習画像の中で、人間が統計的にどう見えるかを学んだだけだ」と語る。「初期の層が見ているのはエッジやコントラスト、テクスチャの勾配。ネットワークの深い層では、頭と肩のシルエット、胴体に対する手足の比率、背景に対する体の輪郭の連続性といった、部位のようなパターンになる。機械にとって『人』とは視覚的な統計の束であり、まさにそこが弱点だ」
シャツは、鮮やかな色と柄の組み合わせでAIを混乱させ、見ているものを人として認識できなくする。ヴェッカート氏は「色と柄の両方であり、どちらか単独ではない。人間の目ではなく機械に対して最適化された、両者の相互作用だ」と述べ、「彩度の高い色の変化はネットワークの初期の層に強く反応を起こし、重なり合う形が体の輪郭の連続性を断ち切る。その結果、検知器は各部位を一つの人影として束ねられなくなる」と説明する。「この柄は『人』とささやく静かな統計の声を、いわば大声でかき消す。人間には催眠術のようなテキスタイルに見えるが、AIモデルには何も見えていない」
背景
柄の開発にもAIが使われた。ヴェッカート氏は「敵対的ループ（adversarial loop）」と呼ばれる試行錯誤の手法で、候補の柄を生成しては検知システムに見せ、どれだけ確信を持って人を検出するかを測り、調整を繰り返した。「検知の確信度が崩れ落ちるまで、生成、提示、測定、調整を繰り返す。機械の死角は人間の直感では分からないので、これが必要だった。機械の知覚に対しては目でデザインできない。何が見えていないかは機械だけが教えてくれる。そこには詩的な対称性がある。広場を見張るのと同じ種類のAIが、シャツに隠れ方を教えたのだ」
検知テストには、オープンソースのリアルタイム物体検知システムYOLOが使われた。YOLOを使った検証では過去にも、顔を覆わずに着用者の生体データを守るニット服が生まれている。ベルリンのコットブッサー・トーアは、犯罪対策を理由にAI映像監視の実証実験の対象地に選ばれた駅周辺の広場で、こうした公共空間での自動監視に対しては、デザインやアートの側からの異議申し立てが続いている。
日本にとっての意味
日本でも公共交通の現場でAIカメラの活用が試みられてきた。JR東日本が指名手配者の検知を目的に首都圏の駅へ導入した顔認証機能付き防犯カメラは、批判を受けて運用を停止した経緯があり、小田急電鉄は駅構内カメラの映像に行動認識AIを使う実証実験を行っている。公共空間の自動監視をどこまで許容するかという論点は日本にも共通しており、ベルリンの事例は、監視技術の導入に対して、規制やデモだけでなく「着る」という形の批評で応じる方法があることを示している。
また、機械学習の検知システムが統計的なパターン認識に依存しているがゆえに、その裏をかく敵対的な柄が成立するという構図は、AIを防犯や本人確認に使うことの技術的な限界を具体的に見せてくれる。監視カメラの高度化を進める側にとっても、そのもろさを知る材料として意味のある事例といえる。