ハッカーの系譜(10)マービン・ミンスキー (9) 人工知能「冬の時代」が到来

牧野武文

March 17, 2017 08:00
by 牧野武文

パーセプトロンの限界を指摘するミンスキー

1963年に、ミンスキーはシーモア・パパートと知り合った。この南アフリカ生まれの数学者は、数学の学士号をとるためにイギリスのケンブリッジ大学で学んでいた。そのときにパーセプトロンに興味をもったが、パーセプトロンの機能については、ミンスキーを同じように限定的なものではないかという疑いを持った。

パパートが、MITを訪れ、ミンスキーと面会すると、二人の考えはたちまち一致した。パーセプトロンがあまりに魅力的に見えすぎるため、人工知能研究者が誤った道に進もうとしている。パーセプトロンを追求してもそれは袋小路になっているのだ(現在のディープラーニングの基礎となっているのもパーセプトロンだが、それには飛躍的な進化が必要だった)。

パパートは、MITの数学科の教職を得て、さらにミンスキーのAI研の研究員となることで、ミンスキーといっしょにパーセプトロンの限界を探る研究を始めた。

パパートとともに導きだした結論は、パーセプトロンは線形分離可能な問題しか学習できないということだった。線形分離可能というのは、直線で集団をわけることができるような事象のことだ。

たとえば、犬と猫を見わける問題を考えてみよう。見わける基準は、体の大きさと活動量だとする。一般に、犬の方が体は大きく、活動量が大きい。猫は小さく、寝る時間が多いので1日の活動量は多くない。横軸に活動量、縦軸に体の大きさをとり、さまざまな犬や猫の測定値をプロットしてみると、猫はグラフの左下隅に固まり、犬はグラフの右上隅に集まることがわかるはずだ。このような集団であれば、一本の直線で犬と猫をわけることができる。ミンスキーとパパートは、パーセプトロンはこのような線形分離可能な問題しか学習できないことを数学的に証明してしまった。

XOR問題が学習できなければ実用にはならない

線形分離可能な問題だけでも学習できるのだったら、じゅうぶんとは言えなくてもたいしたものじゃないか、そう考える方もいるかもしれない。しかし、数学者たちは落胆をした。なぜなら、線形分離しかできないとすると、世の中のほとんどの複雑な事象は学習することができず、実験室の中で慎重に準備された特別な問題しか学習できないことになるからだ。

世の中の複雑な問題を理解するためには、必ず論理演算をしなければならなくなる。論理演算とは、AND、OR、NAND、XORの4つが基本だ。これ以外にも論理演算はあるが、この4つの論理演算を組み合わせることで実現できる。この0と1、または真と偽の組みわせの論理演算の結果のうち、AND、OR、NANDは直線で結果をわけることができる。ところがXORの結果は直線ではわけようがないのだ。

論理演算の真理表

XORの結果は直線でわかることができない

つまり、パーセプトロンはAND、OR、NANDの論理演算については学習することができるが、XORの論理演算を含むものについては学習ができない。

実際、XOR演算というのは世の中にあふれている。たとえば、体重と髪の毛の長さという2つの基準で、人間をわけるとしよう。多くの場合、男性は体重が重く、髪の毛が短い。女性は体重が軽く、髪の毛が長い。つまり、「体重が70kg以上である」「髪の毛が20cm未満である」というふたつの論理演算をおこなうことになるが、XORというのは「どちらか一方だけが真の場合」だ。体重が70kg以上でありながら髪の毛が長い人はたくさんいるだろう。男性で髪を伸ばしている人もいれば、髪の長い女性で体重が多い人もいる。このような人が、ごく少数であれば誤差として切り捨てることもできるが、現実にはロングヘアーの男性、体重の多い女性はたくさんいる。パーセプトロンはこういう事象の学習ができないのだ。

ミンスキーの批判によりAIの冬の時代が訪れる

ミンスキーとパパートが、1969年に共著「パーセプトロン」を出版すると、あれだけ盛りあがっていたパーセプトロン研究は一気に下火になってしまった。ミンスキーはその様子を見て、とても残念に思ったという。なぜなら、ミンスキーはパーセプトロンを否定するつもりは毛頭なかった。ただ、パーセプトロンの限界を示したかっただけなのだ。

ミンスキーはこう語っている。「困ったことと言えば、この本がよすぎたことだ。実際、僕らはこの本に1年間かかりきりだったんだ。……僕は今では、この本はやりすぎたと思っているんだ。僕らが提示したのは、基本的にはパーセプトロンが、視覚的に非局所的なものを組み合わせて理解することができないということだけなんだ」。

「非局所的なものを組み合わせて理解する」とは、ミンスキーの説明によるとこうだ。「食卓の上にスプーンが置いてあり、その柄の部分がマグカップで隠されていても、人間はだれでもそれがスプーンであるということがわかる。でも、パーセプトロンはそれができないんだ」。

それでもミンスキーはパーセプトロンを評価していた

ミンスキーは、パーセプトロンを批判し、その限界を示した後、パーセプトロンに対する考え方を改めた。パーセプトロンが「学習をする」「知能をもつ」と言われると、ミンスキーは直感的にそれは違うと感じてしまう。しかし、人間の知能を支えている神経系は、パーセプトロンとよく似た機構が基礎になっていることには違いないと思っていた。パーセプトロンだけで知能を再現することはできないが、さらに高次元の仕組みと組み合わせることで知能が再現でできるのではないかとも考えていた。「パーセプトロンとは簡単な機械であり、自然がそれと同じ機構をどこかで利用していないとすれば、まったく驚くべきことだ。ニューロンがもち得る最良のもののひとつは、おそらく小さなパーセプトロンだろう」。

ミンスキーの直感は正しかった。1970年代、パーセプトロンの研究はほとんど沈黙してしまったが、80年代になって進歩し始め、今日のディープラーニングに繋がっている。もちろん、今後、ディープラーニングの限界が指摘され、人工知能研究が再び別のテクノロジーに注目が移っていくこともないとは言えないが、今のところ、ミンスキーの指し示した方向性が正しかったことになる。
 
(その10に続く)




ハッカーの系譜(10)マービン・ミンスキー (10) 多層化することで問題を解決

March 30, 2017 08:00

by 牧野武文

多層化することでXOR問題を乗り越えられる パーセプトロンの第1の進化は多層化だ。ミンスキーが指摘したように、パーセプトロンはXORの論理演算結果を学習することができない。前回示したように、XORの演算結果は線形分離不可能、つまり直線で真と偽のグループにわけることができないからだ。 しかし、実はちょ…

POSマルウェアの恐怖 (4) クレジットカード番号が顧客番号や業務処理のキーとして活用される

March 29, 2017 08:00

by 牧野武文

  ・POSマルウェアの恐怖(1) PCI DSSに準拠しても防げない? 狙われるPOSシステム ・POSマルウェアの恐怖(2) カード情報が平文で通信されるシステム ・POSマルウェアの恐怖(3) カード情報を全プロセスで暗号化する「PCI P2PE」はPOSマルウェア攻撃を防げるか POSレジを…

IoTヌイグルミは口が軽い!? ユーザー情報82万件がダダ漏れに(後編)

March 28, 2017 08:00

by 江添 佳代子

  →IoTヌイグルミは口が軽い!? ユーザー情報82万件がダダ漏れに(前編) →IoTヌイグルミは口が軽い!? ユーザー情報82万件がダダ漏れに(中編) 何も知らされていなかったユーザー ここでいったん時系列を確認しよう。ハントやロレンゾに情報を提供した人物がCloudPetsへの連絡を試みたのは…

中国で9億アカウントが利用する「WiFi万能鍵」が1308種類の偽アプリを一掃

March 27, 2017 10:30

by 牧野武文

『中国経済網』の報道によると、中国で大人気のアプリ「WiFi万能鍵」を開発した上海連尚科技有限公司は、今年3月までに、1308種類の偽アプリを一掃したと発表した。 アカウント数9億件を超える無線LANユーティリティーソフト WiFi万能鍵は、公衆無線LANに自動接続するAndroid・iOSアプリ。…