しんさんのブログ

科学や技術のこと読書のことなど

「ディープラーニング学習する機械」 Yann LeCun 著, 松尾豊 監訳/小川浩一 訳 を読みました。

読んでいていワクワクドキドキしてモチベーションの上がる本でした。
機械学習やAIに携わる研究者やエンジニア、学生にもおすすめです。
分厚いですが読み始めるとあっという間で、面白くて止まることなく最後まで一気に読んでしまいました。
ただし、前半部分のニューラルネットワークの説明や発展のところは前提知識がないと何を言っているのかわからなくて読みずらいかもしれません。
細かいところは理解できなくても、後半のAI研究の現状と未来の部分は楽しめると思います。

幾度かのAI冬の時代を乗り越えた歴史とブレークスルー

動物の視覚野に関する知見をヒントに、NHKの福島さんがコグニトロンを開発し、それに触発されConvNetに至った歴史を失敗した試みも含め著者の職歴と絡めながら紹介しています。
ちなみに今では当たり前に使われている畳み込みニューラルネットワークの知識が逆に脳の視覚野の働きの研究に影響を与えているそうです。
ConvNetだけでなく、Deep Learningに必須の技術である誤差逆伝搬法や確率的勾配降下法など今では常識となっている手法にしても、ストレートにゴールにたどり着けたわけではなく現場では紆余曲折を経て今の形に収束したことが分かります。
例えば、多層ニューラルネットの各レイヤーの関数を合成した合成関数をチェインルールにより偏微分を掛け合わせた形に書けた結果だけを見ると、なんでこんな簡単なことにすんなりたどり着けなかったのか不思議ですが、当時考えられていたことや限られたリソースの中で奮闘して試行錯誤したことを知ると技術とはこうやって少しずつ進歩していくものなんだなとわかります。
このような初期の人工知能から現在の深層学習までを俯瞰的にそしてその現場では実際にどのようなことが起き、技術者や研究者はそこで何を考えていたのかを詳細に知ることができる貴重な本です。
著者は研究開発の現場で常に手と頭を動かし、基礎研究から郵便番号読み取り装置のような応用まで携わってきたからこのような本が書けたのでしょうね。

著者が一番言いたかったこととAIの未来

この本で一番面白いのは後半のFacebookでの著者の仕事とFacebookのサービスにおけるAIの利用の話、そして9章及び10章のAIの未来と課題を述べたところです。
特に9,10章は私も同じようなことをぼんやり考えていたのですが、それを言語化してくれていて自分の考えもよりクリアになりました。
人間は機械学習のようにたくさんの学習データも必要ないですし、可能な潜在空間のなかのごく一部しか探索しません。 その理由として、世界モデルの必要性を強調しています。
そして著者はこの世界モデルが因果関係を識別できなければいけないと主張しています。
そうすれば、統計的な規則性に基づく現象学的モデルから、還元主義的な科学にもAIが使えるようになり、AIの使用範囲は大きく広がり、人の知能と変わらない機能を持つかもしれないです。
そして同時に、AIが人間を支配するといった議論に対してはごく常識的な反論を持って一蹴しています。
そういうルカンさんの技術に対するバランス感覚や誠実さに非常に好感を持てますし、本書のいたるところからそういうルカンさんの考え方がにじみ出てきます。

10-8節の脳は機械にすぎないのか?という疑問に対してルカンさんはYesと書いているが、私も脳が物質でできているので全く同意できます。   人間は物質でできており、その物質の化学的、電気的なプロセスにより思考や行動を起こしているのだから、逆にいえば物質を使って人間と同じように思考するシステムを作ったり、人間の脳の思考メカニズムを複製することは可能だという著者の考えには全面的に同意します。
意識とは世界モデルを再設定するための機能で、少ないニューロンを効率的に一つの世界モデルとして稼働させるための仕組みであり、創発的に生じる知能の必然的な帰結であるとはっきりと言い切るゆるぎない信念が、ここまで著者を研究にのめりこませた原動力なのだと感じました。
人間の脳は確かに驚異的ですが、それは物質でできた機械だと多くの科学者は考えています、だからこそ感情や意識を持った機械を作れるに違いないと考えることはごく自然なことですし、著者もそれを目指して研究を進めているようです。

猫ほどの良識も世界モデルも持たない現代のAIをあたかも万能の夢の技術のように語るのではなく、ルカンさんのように自分の手を使いアルゴリズムアーキテクチャを実装しながら理解を深めていくことが極めて重要だと分かりますし、研究所の所長よりは現場で研究開発しその謎を解明している作業を続けたいという著者の気持ちはよくわかります。

AIの現状は、まだ単なる発明の段階で、科学の領域にまで高まっていないという趣旨のことが書かれています。
知能の根底にひそむメカニズムや原理の発見に至ればAI研究は科学となるでしょうし、その時こそ本当の意味でのAI革命が起きるときに違いないです。
そんなことが起きる遠い未来を想像しながら本書を読み終えました。