隠居日録

隠居日録

2016年(世にいう平成28年)、発作的に会社を辞め、隠居生活に入る。日々を読書と散歩に費やす

ディープラーニング 学習する機械 ヤン・ルカン、人工知能を語る

ヤン・ルカンの「ディープラーニング 学習する機械 ヤン・ルカン、人工知能を語る」を読んだ。本書はヤン・ルカンの研究者としてのこれまでの歩みを語りつつ、ディープラーニングの内容について易しく概要を説明している。

畳み込みニューラルネットに関しては、なんとなくわかっているつもりでいたけれど、本書を読んでようやくわかったと思う。以前にも書いたが昔実験していた文字認識のニューラルネットの知見として、入力データの前処理が非常に重要だという事が頭に残っている。事前に学習したときのデーターと認識するために与えたデータが縦方向・横方向にずれているとうまく認識されなかったと記憶している。なので、処理するデータを前処理して中央に来るように正規化して処理するようなことをした記憶がある。しかし、畳み込み処理を入れると、このような正規化のための前処理がいらなくなる。このアイデアは実際の目の構造にヒントを得ていると書いてあり、なるほどと思った。

80年代のネオコグニトロンというなんか懐かしい名前が出てきたが、名前は憶えていたが、どんなものだったかは記憶の彼方だった。しかも、これは最終段の所だけが教師データにより訓練されていたが、それより前にある3段はブラインドで訓練されていたと書かれている。一体どのようにブラインドで訓練したのだろう?何か職人的な技能・手腕による調整が要求されたのだろうか?

本書でも指摘されているが、人間の行っている学習はディープランニングの手法とは別な方法だと思われる。というのも我々は何千という画像を見なくても、特徴をつかむことができるからだ。それが本書で指摘している推論的な学習なのかどうかもよくわからないが、その辺りが明らかになり、数学のモデルやアルゴリズムが解明されれば、人工知能ももっと発展するだろうなとは思う。

本書を読む前からヤン・ルカンの名前は知っていて、ディープラーニングでは有名な人物であることは分かっていたが、彼の経歴はよく知らなかった。てっきりフルタイムでfacebookで働いているのだと思っていたのだが、実際にはニューヨーク大学の教授との兼務だった。最初に見たのは多分NHKの番組だと思うのだが、紹介されたときは「facebookの」言っていたような記憶があり、それがそのまま頭に残ってしまっていた。だが、facebookに入る前に既にニューヨーク大学の教授だったようだ。