越冬した研究者

f:id:wataru_boss:20180616004940p:plain

こんにちは。BOSSです。

突然ではありますがこのブログは機械学習を学んでいく過程をOutputしていくことで、学習したことを深めていく。

そういうブログなんですよ。

その上で絶対残して置きたい話を今日は書いていこうかと思います。

ニューラルネットワークの起源

機械学習、とりわけディープラーニングを語る(今後語る日が来るはず)にはニューラルネットワークの起源から遡るべきでしょう。

第一次AIブーム

ニューラルネットワークとは人間の脳を構成する神経回路を参考にした数学モデルのことであり、ディープラーニングの礎にあたります。

1958年、アメリカの心理学者のフランク・ローゼンブラット(Frank Rosenblatt)氏によって初代ニューラルネットワークモデルを発表しました。これをパーセプトロンとローゼンブラットは名付けました。

このモデルは非常にシンプルで、簡単なパターン認識しかできず使用用途としてもかなり限定的というか

ぶっちゃけ使用に耐えないレベルでありました。

ところが入出力の層をつくるだけで学習や予想ができるモデルとして米国全土で非常に話題となりました。

これが第一次AIブームです。

しかしこのブームは1969年、米国の人工知能学者マービン・ミンスキー(Marvin Minsky)氏の手によって鎮火しました。

ミンスキーはパーセプトロンの重大な欠陥を数学的に証明してしまったのです。

第二次AIブーム

パーセプトロンの限界が示されて以降のAIの研究者は脳の神経回路みたいな複雑なことをモデルとすることを諦めました。

より現実的に、局所的でも問題解決が可能な手法へと注目が集まっていったのです。

プログラムにとにかくたくさん「If-thenルールを組み込む」という手法です。

つまり、何かの条件を満たす時ある処理を行うというルールを多数組み合わせることで複雑な挙動をある程度再現できるようにする

ようは専門知識と技術でもってパワープレーをしたわけです。

その手法により達成されたのがエキスパートシステムの構築です。

パワープレーとはいえ致命的な欠陥を指摘されたパーセプトロンと比べると断然実用的だと考えられたのです。

そのような背景から、1980年代あたりまではこぞって研究がなされました。第二次AIブームです。

AIの冬

エキスパートシステムの課題は当然ながらその調整するIf-thenルールの難解さと組み合わせの多さにあります。

当然ですがこれらは人的に、手作業で行われる調整です。

こういった局所的に活躍できるAIの研究初期段階においては、それでも対応が可能でありました。

ある程度複雑な処理もパワープレーを押し通して実現させていたようです。

しかしそのような単純な時代は長くは続かないことは想像に難くないと思います。

人にできる作業の限界に達しました。

コンピューターに局所的にとはいえ全てのルールを教えることが手作業ではとてつもなく難しいのです。

何故ならば彼らは空気が読めないからです。教えたことしかできません。

したがって人がコンピューターにルールを教えるにはルールの言語化が必須になるのですが、人間は案外ものごとを言語化することができなかったわけです。

研究開発というものには開発費がつねにつきまとう問題となります。このころのAIのように結果の出すことのできない研究には開発費の供給が停止したのです。

2度のブームがあったAI研究ですが

人的処理の限界という大きな壁を前に開発費が絶たれ、AIの研究は1980年代後半で流れは一気に緩やかになります。

これが「AIの冬」と呼ばれる時期の突入になります。

ディープラーニングの再燃

AIの冬は長きに渡りました。

再びディープラーニングに注目が集まったのはごく最近

2010年代に入ったところです。

注目を集めるきっかけとなった具体的事例を一つあげると

2012年に開催された、画像認識精度を競うコンテスト「ILSVRC(ImageNet Large Scale Visual Recognition Challenge)」

このコンテストでトロント大学教授ジェフリー・ヒントン(Geoffrey Everest Hinton)氏のチームの大勝です。

それも二位に圧倒的な差をつけて。

お分かりかと思いますがヒントンのチームが用いた手法こそまさにディープラーニングです。

以降画像認識の分野や音声認識、自然言語処理の分野など様々な分野でディープラーニングの活用が検討され

盛んに研究がなされています。

使えそうという技術にはどんどんお金が出てきますから。

現代においてはAI研究に投資する企業が後をたたない

そんな状況です。

まさに第三次AIブームの到来です。

越冬した研究者

さて、ここまでAIの歴史を振り返ってきましたが

このあたりは調べたら出てくるもの。

ここからが私の残しておきたい話になります。

科学技術の世界にはこんな言葉が存在します。

Standing On The Shoulder Of Giants

日本語で巨人の肩の上に立つ

という意味です。

Googleの学術検索エンジンGoogle Scholar でも書かれています。

これはどういうことかというと、現在の科学技術は過去の先人たちの成果(巨人)の上で成り立っているということです。

さて、では現在のAIブームは一体だれの肩の上に立っているのでしょうか?

先に挙げたローゼンブラット、ミンスキーはもちろんAI分野において偉大な功績を残しています。

しかし、私が一番敬意を評したいのは冬の時代を過ごして、なおAIの研究に没頭し続けた

いわば越冬した研究者たちです。

先に述べたとおり研究開発というものはお金がかかります。

満足に研究開発費が供給されないと研究そのものの継続が難しいのです。

そしてAIの冬とはまさにAIの科学者にとってそういった時代だったのです。

それでもなお研究を続けてくれたおかげでディープラーニング技術が確立してきました。

そして、新技術に対して早いレスポンスで追随できました。

社会は手のひらを返してこれからはAIだなんて宣うわけです。

そうやってまたブームが再燃するのです。

それが良いとか悪いとかの話ではなくて、

今我々がいるこの場所は、わずかな人数で大きな世界を支え続けた

冬を超えてきた巨人の肩の上であることを忘れてはいけないとことだと私は思っています。

今後機械学習を勉強していきたいと考えてる私にとって、この思いだけは忘れてはいけない。

そういう思いを残しておきたい

そんな記事でした。