"機械学習","信号解析","ディープラーニング"の勉強

読者です 読者をやめる 読者になる 読者になる

HELLO CYBERNETICS

深層学習、機械学習、強化学習、信号処理、制御工学などをテーマに扱っていきます

人工知能を語る前に、脳について知りたい

 

 

人工知能の研究が始まってから60年が経ちます。

現在まで様々な手法が試されてきましたが、現在人工知能開発の主流になっているディープラーニングは脳の活動の模倣によって発展しました(従来からニューラルネットワークとして、脳の神経の構造を真似ることはしてきましたが、ディープラーニングでは脳の神経の振る舞いを真似るようになりました)。ディープラーニングが知的な振る舞いをする機械に発展するのか、あるいは他の方法なのか、それは誰にも分かりませんが、現在多くの分野で成果を上げていることは誰にも疑いようがありません。

ここまでディープラーニングが成果をあげてきたともなれば、そもそも脳の働きがどれだけ優れたものであるか、一体どのように動作しているのかに興味が湧いてきませんか?脳の構造を真似ているディープラーニングは、あくまでそのアルゴリズム通りに動作しているに過ぎません。まだまだ人間の脳の汎用性にはかなわないのです。しかしある特定の問題に対しては、そのアルゴリズム通りに動作することで人間を超える成果を挙げるのも事実です。人間には感情などが邪魔をして、特定の作業を邪魔することもあるでしょう。もしも脳のことをもう少し知っていて、ある作業のときにどういうふうに脳を使えば良いのかが分かれば、もっと上手く物事を運べるかもしれません。

今回は人工知能に実装できるのかなどの技術的なことは置いておいて、脳という組織の面白い話を書いてみたいと思います。

 

 

 たった1つの学習理論

たった1つの学習理論とは脳が物事を学習する際には、その処理対象に応じた活動をするわけではなく、全ての処理対象に対して唯一の学習方法を使っているという考え方です。これは理論と名付けられている通り、そういう考えがあるだけで、まだ確実にそうだと証明されているわけではありません。しかし、1つの考え方として認められているものでもあります。

特に人工知能関連では「スパース・コーディング」というものが有名です。スパースコーディングとは、ある処理を行うときに、なるべく少ない神経活動で済ませられるように学習が行われるという考え方です。

理論の根拠 視神経の切断

視神経を切断すると、当然視力を失います。

視力を失った状態で、その切断した視神経を聴覚を処理している脳の神経に接続した場合にどうなるでしょうか。もしも音の処理と光の処理が異なるものであるならば、視覚の信号を聴覚の脳の領域に与えた所で何も起こらないはずです。しかし驚くことに次第に視覚が取り戻されていったのです。すなわち視覚の信号を聴覚に使われていた脳の領域で処理することができたのです。これは、脳の視覚と聴覚に関する信号の処理構造は本質的な差異がなく、ある統一された学習によって意味のある情報として獲得しうると考えられます。

 理論の根拠 アルゴリズムの有効性

視覚の情報処理機構を、アルゴリズムとして実装した場合に、実際に画像処理として有効であるのは何となく当たり前なのかなと思います(もちろん工学に応用できるという点で有意義)。しかし、視覚の研究で得られたアルゴリズムが、他の信号処理にも通用することが分かったのです。

これは統一された一つの学習アルゴリズムが、様々な種類の信号を学習できることを示唆しています。

脳の領域に区別はない?

脳障害を持った患者

脳の場所によって活動の仕方が区別されているものではないという根拠は他にもあります。脳が物理的に損傷しているケースを考えましょう。後天的にしろ先天的にしろ、脳が欠けてしまっている人は存在します。そういう人には、言語障害や身体障害が現れるケースもありますが、次第にこれらが回復していく場合もあります。例えば右腕に関する動作をする脳の領域が失われていても右腕を動かせるようになった人がいたとして、そういう場合に脳の活動を計測すると、代わりに他の領域が強く活動するのが観測できます。つまり、脳は場所によって生まれ持って配置された場所はある意味偶然の初期値にすぎなく、実は学習によってその働かせ方を他の領域でも獲得できるということです。

このように脳に障害を持ったが、機能回復が見られるというケースは多々報告されています。脳が半分しかない人でも、健常者と何も変わらない生活をしている人もいます。

小脳仮説

人間には直感というものがあります。なんだか理屈は説明できないのだけれども、こうすべきなんじゃないかというのが瞬時に浮かんでくることがありますね。一体直感というものがどのようにして獲得されているのでしょうか。小脳仮説は、コレに対する1つの考え方にもなってきます。

無意識下で考えている

脳の活動は、必ずしも人間が全て意識できているものではありません。今脳をどのように働かせているかなんてのは、誰にも詳しく説明できないはずです。数学の問題を考えたり、文章を読解したりするときには、「今自分は考えている」と意識できると思います。しかしそういう場合でなくても脳は何かを考えているかもしれないということです。

小脳仮説とは、無意識下で様々な経験を基に小脳がシミュレーションを行っていて、何か適当な判断基準を獲得していると考えられています。この無意識下でのシミュレーションによる解が、意識できる脳のレベルに渡され、それが直感として現れているのではないかということです。

スピリチュアルの経験則

スピリチュアルな話が世界には沢山あります。潜在意識として、何やら怪しい話も沢山ありますが、その潜在意識とやらは小脳の活動によるものではないかと考えることもできます。もちろん潜在意識を謳った怪しいデタラメもたくさん出回っていはいると思いますが、中には本当にそういう経験をしたという真実も含まれていることでしょう。それらに対する説明が科学的に行える日も来るかもしれません。

脳はほぼ全て活動している

人間は脳を十分に活用できていないと謳う人が世の中にはいます。たしかに、ある時に脳の計測をしても、脳はほんの一部しか活動していないことでしょう。この事実をもって、人間は脳を100%活用できていない。できるようになれば凄まじい能力が得られると言った論調で話を進めていくわけです。

しかし別のときには、別の脳の領域のほんの一部が活動しているはずです。脳を全て活用できていないのではなく、場合に応じて脳は活動の仕方を変えているに過ぎなく、それらを全部考慮すれば、脳はほぼ全ての領域がちゃんと仕事をしています。

スパースコーディング再訪

スパースコーディングは、脳がある処理をするときに、なるべく少ない神経活動で済ませられるように学習をしていくというものです。これを考えると、ある処理(例えば数学の問題を解くこと)の学習が十分に行われたあとは、脳は本当に少ない活動でその処理を行ってしまうはずです。

ですから、むしろフル活動しているよりも少ない処理で済ませられる脳の方が洗練されていると言えます。ある処理をしているときに脳があんまり活動していないから、この脳は出来損ないだという考え方はおかしいのです(たしかにその人がサボってる場合もありますが)。

つまり、フル活動したら疲れてしまうので、その処理を行える限りはサボれるだけサボれるように最低限の神経活動ですませてしまおうというのが、スパースコーディングになります。

そしてこのスパースコーディングは実際の機械学習アルゴリズムでも有用性が確認されています。わざとニューラルネットワークの活動を制限することで、むしろ高い性能が得られる場合があるということが分かってきたのです。つまり最低限の神経活動で済ませられるように学習してしまうほうが、いつでもフル活動より性能も良くなるケースもあるということです。こうなってくると、冒頭の論調は明らかに一般性を欠いているということが分かるはずです。

寝ている時も脳は活動している

夢を見るときは体は寝ているが、頭は起きている。夢を見ていない時は体も頭も寝ている。という話を聞いたことはないでしょうか。これはウソです。頭はずっと起きています。しかし起きている時同様、全てがフル回転しているわけではありません。

夢を見ているときと見ていない時では、脳は違うことをしています。夢を見ているときはいわゆるシミュレーションをしています。脳のしまわれている記憶をつかって色々再現しているのです。夢を見ていない時は、記憶をどこにどうやって閉まっておくのか、整理をしている状態です。重要性が無さそうなことは記憶が取り出しにくいどこかにしまわれてしまい、あたかも忘れたかのように感じます。

とにかく睡眠は、体の運動をほったらかしにして、脳が他の作業をしている時間だと言えるわけです。

汎化性能について

多項式フィッティングの例

汎化性能とは、訓練データの学習からより一般的な問題を解く能力のことです。例えば多項式フィッティングを例に取りましょう。

青いデータ点が手持ちの訓練データであり、このデータを上手く説明する多項式曲線(赤い線)を獲得したいと言う場合、当然その多項式は訓練データを通過するものが良いように感じます。しかし訓練データを通過することだけを考えた多項式(図右下)は、実は本来データを生成している緑の曲線とは全く異なるものになっています。一方訓練データを説明する能力は少し犠牲にしても、より単純な多項式(図左下)を考えることで、本来の曲線に近いものが獲得されていることが分かります。つまりこのケースでは、図右下の方が訓練性能は高いが、図左下の方が汎化性能が高いということになります。しかし、右上と左上の図はあまりにも単純なものを考えすぎれいるのも分かります。

 

f:id:s0sem0y:20160421233943p:plain

 

重要なのは限られた訓練データからできるだけ汎化性能が高くなるように学習を行うことですが、訓練データに対してどれだけ忠実に学習を行うべきなのか、どれだけ複雑な曲線を想定すれば良いのかが学習の鍵になってきます。

最適化問題

このような訓練データを基にした学習は最終的には最適化問題に帰着されます。

その最適化問題では正則化なる概念が登場しますが、その正則化項にL_1ノルムやL_0ノルムを用いるのがスパースコーディングの実装になってきます。そうすると、複雑な曲線を想定したとしても、ニューラルネットワークはなるべくサボろうとするため、最終的には良い具合の結果が得られる場合もあるというわけです。

ゲシュタルト崩壊に対する考え

ゲシュタルト崩壊という言葉を聞いたことはないでしょうか。例えばある1つの漢字を連続して見続けていると、その漢字が何やら見慣れない知らないもののように感じてくる現象です。

実はこのゲシュタルト崩壊は、脳の汎化性能によるものではないかと考えることができます。つまり今までその漢字を見てきて、「この漢字はそういうものだ」と思ってきたわけですが、何度も見ているうちに、「実はコレは別の意味を持った何かではないか?」と脳が考えなおしているというわけです。つまり今までの訓練データに対して、あまりにも忠実に学習しすぎてしまっているのではないか、その結果汎化性能が低すぎるのではないかと、最適化問題を解き直していると言えます。当然実際にはその解き直しは不要なのですが、このような汎化性能を上げようとする脳の働きによって、型にハマり過ぎない抽象的な考え方ができるのではないでしょうか。

脳の働き方を考慮して

真剣に考えてもわからないことは、一旦閉まっておこう

一度グっと真剣に考えてみれば、きっと脳はその考えたことを簡単には忘れません。ですから一度真剣に考えても出なかった答えは、一旦どっかにメモって放っておいても良いのではないでしょうか。ふとした時にその問題を思い返してみれば、簡単に解決策が思いついてしまうこともあるはずです。夜に真剣にいろいろ考えてみて、朝になったら割と簡単に解決してしまうという経験をしたことがあるはずです。きっと小脳が見知らぬ内にシミュレーションしているのでしょう。

しかし、それがシミュレーションするに値する価値のあるものだと、しっかり認識してもらわなければなりません。一度は真剣に考えてみるということを忘れないでください。

色々なことに興味を持とう

小学生の頃、とくに算数が嫌いな人は「こんな勉強意味あるのか?」と思ったことでしょう。別にいまでも意味の無さそうなことは沢山あります。例えば「ゲーム、将棋、サッカー」。これらはその道のプロにならない限りは、直接意味のある結果は得られないはずです。けど楽しかったらやってしまうでしょう。そして人生のどこかでその経験が約に立っているはずです。頭の働かせ方というのは統一されたものであるらしいので、何をやっても真剣に取り組みさえすれば、脳が学習の仕方というもの自体を獲得していくのではないでしょうか。

ですから、色々なことに興味を持ちましょう。どうせやるなら楽しいほうがいいです。そしてそれらに真剣に取り組んでください。頭を使ってください。それだけで価値のある経験になっているはずです。

ちゃんと寝ましょう

睡眠というのは、脳にとって特別なことに専念できる時間になります。睡眠時は意識がありませんから何もしていないように感じますが、ちゃんと脳は働いているので「もったいない」とか思わず眠くなったら寝てください。

寝ているときにはシミュレーションと記憶の整理が行われます。

どんなことをシミュレーションするのかは、ハッキリ分かりませんが、あまりにどうでもいいことのシミュレーションなんてきっとしないでしょう。試験勉強に追われ、焦りながら床につくと、それについての夢を見ることもあるはずです。きっとシミュレーションは意味のあるものが選択されているはずです。だから寝る前は重要なことを一度振り返って寝るのがいいと思います。

重要なことは繰り返し振り返ろう

記憶は、重要でない場合は奥深くにしまわれ、最終的には失われてしまいます。

それが重要であるということを脳に教えてやるには、繰り返しそのことに触れるしかありません。記憶を司る海馬のモデルとして知られる自己連想ネットワークも、同じ入力をたくさん与えることで、その入力に対する反応性を高めることができます。もちろんこれよりも脳は遥かに複雑でしょうが、経験的にも繰り返しが大事だというのは知られていることです。

一度やって分かったからと言わず、同じことでも繰り返し触れましょう。きっと触れているうちに新しい学びもあるでしょうし。