中国に広がる自動顔認識システムとそれを欺くファッション技術

牧野武文

December 4, 2017 08:00
by 牧野武文

青島市のビール祭りで、顔認識技術を利用して指名手配犯などを検挙したというニュースを以前『THE ZERO/ONE』でお伝えした。この顔認識技術による指名手配犯の捜索システムは、すでに全国に広がっていると『中国新聞網』が報じた。

アジアのヴェネツィアに巨大な監視カメラシステム

中国新聞網によると、水郷の街として世界的にも有名な烏鎮(うちん)に、すでにこの「天眼システム」が導入され、成果を挙げているという。天眼システムは、該当の監視カメラをクラウド化して、顔認識を行い、指名手配犯、前科者などを発見するとアラートを発するシステム。公安部が所有している身分証データベースの顔写真と照合をする。認識正答率は、監視カメラの解像度によるところもあり、80%以下だと言われる。アラートが発せられたから即逮捕ではなく、警官が急行し、職務質問を行うという使われ方をしている。


1000年の歴史を持つ「烏鎮」

烏鎮は水郷の街だが、観光地としてに整備されている。街に入るにはテーマパークと同じようにチケットを購入して、入場門を通過する必要がある。こういうゲートを通過するような場所では、顔認識システムが運用しやすい。入場者が一列に並んで、ゆっくりと歩くので、顔を撮影し、認識をする時間的余裕が生まれるからだ。

桐郷公安烏鎮派出所の沈国華指導教官は、中国新聞網の取材に応えた。「烏鎮は、世界インターネット大会の開催地となりました。烏鎮のセキュリティが重要になり、私たちは顔認識による捜索システムを導入したのです」。烏鎮景観区では、今年の8月から各出入り口に天眼システムのカメラを設置、大きな成果を挙げている。

烏鎮では、景観区だけでなく、高速鉄道の駅、バスターミナルにも天眼システムが導入されている。監視カメラは合計500ヵ所以上に設置をされ、導入以来9名の全国指名手配犯を逮捕している。


ネットに出回っている天眼システムと称される映像(真偽のほどは不明)。空港、バスターミナル、地下鉄駅など、人の流動が多い地域に設置されている(微博より)

顔認識システムから逃げる方法

しかし『36クリプトン』『ファイナンシャルタイムズ(中国版)』などの中国メディアが、この天眼システムの問題点を指摘している。それは、顔に特定のパターンを乗せると、顔認識システムが正確な判別ができなくなるという問題だ。

この指摘は、カーネギーメロン大学の研究「Accessorize to Crime: Real and Stealthy Attacks on State-of-the-Art Face Recognition」(PDF)に基づいている。

理論的な背景は原論文を参照していただきたいが、つまり顔認識を騙すことのできるパターンが存在し、そのパターンがペイントされた眼鏡などのアクセサリーを身につけることで、顔認識の網を逃れられるというものだ。

顔認識で参照顔写真と同一人物であるかどうかを判別するといっても、やっていることは2つの画像の差異を計測し、それが小さければ同一人物と判定しているだけだ。ただし、どのような差異を差異として計算するかという点に、深層学習が使われている。例えば、口を開けた形は差異が大きくても無視をするが、唇の形状は差異として計算するという具合だ。

ところが深層学習の弱点をついて、差異だと認識されてしまうパターンが存在する。カーネギーメロン大学の論文には、米国の俳優キーファー・サザーランドの顔写真の例が使われている。3枚の写真は、人間の目にはいずれもキーファー・サザーランドの写真だと認識できるが、顔認証システムでは、パターンを乗せた真ん中の写真、特定パターンを使った眼鏡をかけた右の写真は、差異が大きいと計算され、別人だと判定されてしまうのだ。

もちろん、このような姿で街を歩いていたら、いかにも怪しい。しかし、顔認証の深層学習を騙す効果的なパターンも知られ始めており、うまく工夫すれば、ファッションの一種として受け入れられる可能性もある。


顔認識は、深層学習によって顔画像の差異を計測するため、深層学習の弱点をついた攻撃が可能になる。米国の俳優キーファー・サザーランドの画像を使ったこの例では、差異を大きくしてしまうデジタルパターン、アクセサリーの例が紹介されている(カーネギーメロン大学「Accessorize to Crime: Real and Stealthy Attacks on State-of-the-Art Face Recognition」より引用)


Adam Harveyが提唱する、顔認識システムからのトラッキングを阻止するメイクアップ・ファッションの「CV Dazzle」。Dazzleとは「ダズル迷彩」のことで、これは第1次世界大戦にイギリスで生まれ、艦船に用いられた迷彩塗装。CV Dazzleは髪の毛と簡単なペインティングパターンを使って、顔写真と同一人物だと認識させない。この程度であれば、ファッションのひとつとして認識され、怪しまれずに街を歩けるようになるかもしれない(画像はCV Dazzleより引用)。

未来のお手本になるのか反面教師になるのか

36クリプトン、ファイナンシャルタイムズ中国版は、欠陥があるので天眼システムは意味がないと主張しているのではない。このようなパターンを利用した顔認証ハッキングも考慮しておく必要があると述べている。

日本人の感覚では、この天眼システムは、あまりにもプライバシーを軽んじているものに映るかもしれない。しかし、普通の街頭防犯カメラであれば、かなりの数が普及し、防犯や犯罪捜査に役立っている。いずれ、日本でも、顔認証システムの導入が議論される時代がやってくるかもしれない。その時、中国の天眼システムは大いに参考になるはずだ。

ニュースで学ぶ中国語

 
天眼系統(tianyan xitong):天眼システム。まだ言葉として熟してなく、天網と呼ばれることもあるが、街頭監視カメラをクラウド化した仕組みが「天眼」と呼ばれ始めている。系統はシステムの意味。今、中国では街頭監視カメラのクラウド化、犯罪者データベースとの連携が進んでいる。




ダークウェブで自動車爆弾を購入した英国青年は、いかにして特定されたか

December 15, 2017 08:00

by 江添 佳代子

2017年11月7日、爆発物の購入を試みた疑いで逮捕されていた19歳の英国人男性に有罪判決が下った。この事件には2つの注目すべき点がある。ひとつは、英国がサイバー犯罪の捜査で爆破事件を未然に防いだかもしれないという点。もうひとつは、「ダークウェブの利用者が捜査で特定された最新の事例かもしれない」とい…

連載「IoTのセキュリティリスクを考える」 #01 横浜国立大学・吉岡克成准教授 (3) IoTのセキュリティを誰が守るのか

December 13, 2017 08:00

by 牧野武文

年々増加するIoT機器への攻撃。吉岡准教授によると現在はまだアーリーステージで単純な攻撃が多く、高度な攻撃が始まるのはこれからだと言う。それを見越して先に予防策を講じておくことが重要で、産官学の連携を取ることにより、日本製のIoT機器の強みに転化していくという発想が重要だという。 責任の所在が不明確…

連載「IoTのセキュリティリスクを考える」 #01 横浜国立大学・吉岡克成准教授 (2) 攻撃者の狙いはDDoS攻撃

December 12, 2017 08:00

by 牧野武文

前回は吉岡准教授に、IoT機器への攻撃は主に3種類あることを聞いた。では、攻撃者は一体何を目的としてIoT機器を攻撃するのだろうか。 悪意の薄い「覗き見」 しゃ 覗き見から次の悪意が生まれるIoT機器、特にIPカメラの攻撃で最も多いのは「いたずら」「好奇心」によるものだ。「Insecam」というサイ…

連載「IoTのセキュリティリスクを考える」 #01 横浜国立大学・吉岡克成准教授 (1) 感染機器は数十万台以上? IoTがサイバー攻撃者に狙われる理由

December 11, 2017 08:00

by 牧野武文

生活や業務のシーンに広く使われるようになったIoT機器。IPカメラ、IPプリンター、スマートウォッチなどはすでに当たり前のように使われるようになった。「1人1台」のPCやスマートフォンと比べると「1人複数台」のIoT機器は、爆発的に台数を増やしている。一方で、IoT機器に対するセキュリティ意識は低い…