中国に広がる自動顔認識システムとそれを欺くファッション技術

牧野武文

December 4, 2017 08:00
by 牧野武文

青島市のビール祭りで、顔認識技術を利用して指名手配犯などを検挙したというニュースを以前『THE ZERO/ONE』でお伝えした。この顔認識技術による指名手配犯の捜索システムは、すでに全国に広がっていると『中国新聞網』が報じた。

アジアのヴェネツィアに巨大な監視カメラシステム

中国新聞網によると、水郷の街として世界的にも有名な烏鎮(うちん)に、すでにこの「天眼システム」が導入され、成果を挙げているという。天眼システムは、該当の監視カメラをクラウド化して、顔認識を行い、指名手配犯、前科者などを発見するとアラートを発するシステム。公安部が所有している身分証データベースの顔写真と照合をする。認識正答率は、監視カメラの解像度によるところもあり、80%以下だと言われる。アラートが発せられたから即逮捕ではなく、警官が急行し、職務質問を行うという使われ方をしている。


1000年の歴史を持つ「烏鎮」

烏鎮は水郷の街だが、観光地として整備されている。街に入るにはテーマパークと同じようにチケットを購入して、入場門を通過する必要がある。こういうゲートを通過するような場所では、顔認識システムが運用しやすい。入場者が一列に並んで、ゆっくりと歩くので、顔を撮影し、認識をする時間的余裕が生まれるからだ。

桐郷公安烏鎮派出所の沈国華指導教官は、中国新聞網の取材に応えた。「烏鎮は、世界インターネット大会の開催地となりました。烏鎮のセキュリティが重要になり、私たちは顔認識による捜索システムを導入したのです」。烏鎮景観区では、今年の8月から各出入り口に天眼システムのカメラを設置、大きな成果を挙げている。

烏鎮では、景観区だけでなく、高速鉄道の駅、バスターミナルにも天眼システムが導入されている。監視カメラは合計500ヵ所以上に設置をされ、導入以来9名の全国指名手配犯を逮捕している。


ネットに出回っている天眼システムと称される映像(真偽のほどは不明)。空港、バスターミナル、地下鉄駅など、人の流動が多い地域に設置されている(微博より)

顔認識システムから逃げる方法

しかし『36クリプトン』『ファイナンシャルタイムズ(中国版)』などの中国メディアが、この天眼システムの問題点を指摘している。それは、顔に特定のパターンを乗せると、顔認識システムが正確な判別ができなくなるという問題だ。

この指摘は、カーネギーメロン大学の研究「Accessorize to Crime: Real and Stealthy Attacks on State-of-the-Art Face Recognition」(PDF)に基づいている。

理論的な背景は原論文を参照していただきたいが、つまり顔認識を騙すことのできるパターンが存在し、そのパターンがペイントされた眼鏡などのアクセサリーを身につけることで、顔認識の網を逃れられるというものだ。

顔認識で参照顔写真と同一人物であるかどうかを判別するといっても、やっていることは2つの画像の差異を計測し、それが小さければ同一人物と判定しているだけだ。ただし、どのような差異を差異として計算するかという点に、深層学習が使われている。例えば、口を開けた形は差異が大きくても無視をするが、唇の形状は差異として計算するという具合だ。

ところが深層学習の弱点をついて、差異だと認識されてしまうパターンが存在する。カーネギーメロン大学の論文には、米国の俳優キーファー・サザーランドの顔写真の例が使われている。3枚の写真は、人間の目にはいずれもキーファー・サザーランドの写真だと認識できるが、顔認証システムでは、パターンを乗せた真ん中の写真、特定パターンを使った眼鏡をかけた右の写真は、差異が大きいと計算され、別人だと判定されてしまうのだ。

もちろん、このような姿で街を歩いていたら、いかにも怪しい。しかし、顔認証の深層学習を騙す効果的なパターンも知られ始めており、うまく工夫すれば、ファッションの一種として受け入れられる可能性もある。


顔認識は、深層学習によって顔画像の差異を計測するため、深層学習の弱点をついた攻撃が可能になる。米国の俳優キーファー・サザーランドの画像を使ったこの例では、差異を大きくしてしまうデジタルパターン、アクセサリーの例が紹介されている(カーネギーメロン大学「Accessorize to Crime: Real and Stealthy Attacks on State-of-the-Art Face Recognition」より引用)


Adam Harveyが提唱する、顔認識システムからのトラッキングを阻止するメイクアップ・ファッションの「CV Dazzle」。Dazzleとは「ダズル迷彩」のことで、これは第1次世界大戦にイギリスで生まれ、艦船に用いられた迷彩塗装。CV Dazzleは髪の毛と簡単なペインティングパターンを使って、顔写真と同一人物だと認識させない。この程度であれば、ファッションのひとつとして認識され、怪しまれずに街を歩けるようになるかもしれない(画像はCV Dazzleより引用)。

未来のお手本になるのか反面教師になるのか

36クリプトン、ファイナンシャルタイムズ中国版は、欠陥があるので天眼システムは意味がないと主張しているのではない。このようなパターンを利用した顔認証ハッキングも考慮しておく必要があると述べている。

日本人の感覚では、この天眼システムは、あまりにもプライバシーを軽んじているものに映るかもしれない。しかし、普通の街頭防犯カメラであれば、かなりの数が普及し、防犯や犯罪捜査に役立っている。いずれ、日本でも、顔認証システムの導入が議論される時代がやってくるかもしれない。その時、中国の天眼システムは大いに参考になるはずだ。

ニュースで学ぶ中国語

 
天眼系統(tianyan xitong):天眼システム。まだ言葉として熟してなく、天網と呼ばれることもあるが、街頭監視カメラをクラウド化した仕組みが「天眼」と呼ばれ始めている。系統はシステムの意味。今、中国では街頭監視カメラのクラウド化、犯罪者データベースとの連携が進んでいる。

BugBounty.jp

システムに内在するリスクをチェックセキュリティ診断(脆弱性診断)

提供会社:スプラウト

企業や組織のWebアプリケーション、各種サーバー、スマートフォンアプリケーション、IoTデバイスなどの特定の対象について、内外の攻撃の糸口となる脆弱性の有無を技術的に診断します。外部に公開す るシステムを安心かつ安全に維持するためには、定期的なセキュリティ診断が欠かせません。

BugBounty.jp

サイバー空間の最新動向を分析脅威リサーチ

提供会社:スプラウト

サイバー攻撃に関連した機密情報や個人情報が漏洩していないかをダークウェブも含めて調査し、もし重要な情報が発見された場合は、その対応策についてもサポートします。また、サイバー攻撃者のコミ ュニティ動向を分析し、特定の業種や企業を狙った攻撃ツールやターゲットリストが出回っていないかなどの特殊な脅威調査も請け負っています。

中国でライドシェア殺人事件が発生

May 22, 2018 08:00

by 牧野武文

5月6日早朝、中国版ウーバーの「滴滴出行」(ディディチューシン)のライドシェアを利用した女性が、運転手に殺害されるという痛ましい事件が起きた。ほぼすべてのメディアが連日報道する大事件となった。各交通警察は、中国人民公安大学が制作した「ライドシェアを利用する女性のための安全防犯ガイドブック」を配布して…

アリペイの盲点を突いた男に懲役5年

May 15, 2018 08:00

by 牧野武文

アリババが運営するQRコードスマホ決済「アリペイ(支付宝)」のシステムは、かなり堅牢だ。 アリババは、どのようなセキュリティ対策をしているかは一切公表していない。ただ、ネットではよく「10段構えの防御システムになっている」と言われる。最も外の防御システムが突破されるとアラートが発せられて、緊急チーム…