"機械学習","信号解析","ディープラーニング"の勉強

読者です 読者をやめる 読者になる 読者になる

HELLO CYBERNETICS

深層学習、機械学習、強化学習、信号処理、制御工学などをテーマに扱っていきます

数学の教科書について

はじめに

s0sem0y.hatenablog.com

 

この記事で数学に関して勉強したいという場合に参考になる本を紹介したいと思います。

 

しかし個人的には数学の本を一冊ガッツリやって機械学習に移るというよりは、機械学習を学びながら必要な数学は調べていけばいいかなと思っています。もちろん数学を一通りやっていたほうが勉強は楽であるのは間違いありませんが、数学を今からやらなければならないというのは結構な重労働です。数学の様々な知識や公式は、今の時代ならばネットでも十分見つかりますから、適宜調べるというスタイルで構わないと思いますが、具体的な書籍があると頼もしいという場合の参考にしてください。

 

当然これから紹介する書籍の中身を完全に把握しておく必要はありません。

ただ、個人的には数学も単純に面白いと思います。(純粋数学は知りませんが)

 

 

 

線形代数

教科書
線形代数学(新装版)

線形代数学(新装版)

 

 

定義や定理の証明をひたすら繰り返す厳密な数学の教科書とは異なり、工学系や物理系の方面で数学を使う人に適していると思われる本です。具体的な例題を通していくことで、抽象的な概念がしっかり理解できるようになるかと思います。

 

今回紹介する中で、おそらく一番使った本です。

 

このレベルを理解できるようになったならば、機械学習で出てくる線形代数の概念が分からないということはなくなるはずです。ただし、行列の微分などについては触れられていないです(そもそも偏微分の話か?)。ただこれは計算に関することなので上記の記事で紹介した行列の公式集があれば大丈夫でしょう。

 

微分積分・ベクトル解析

 文庫本、微積分
現代の古典解析―微積分基礎課程 (ちくま学芸文庫)

現代の古典解析―微積分基礎課程 (ちくま学芸文庫)

 

 

機械学習に必要なのは、せいぜい偏微分の計算くらいですから、がっつりやる必要はないと思います。大事なのは計算ができる事と、概念が分かることです。厳密に解析学をやる必要はありません。

数学の先生ながらこの著者は、厳密数学による「数学のための数学」の形式に異論を持っている方です。ですから、微分に対する概念の説明などが非常に直感的で分かりやすいです。

 

文庫本、ベクトル解析
ベクトル解析 (ちくま学芸文庫)

ベクトル解析 (ちくま学芸文庫)

 

 上記と同じ著者によるものです。ベクトル解析が必要かと言われたら微妙なところですが、実際スカラーのベクトルによる微分などはベクトル解析で取り扱います。

機械学習で行われている微分は、ベクトル解析でのgradに相当しており、スカラーfの微分はgrad(f)とか∇fなどで表されます。機械学習の本でもたまに微分を∇で表しているのを見たことがあります。

 

実際にはスカラーのベクトルによる微分というのは、あと2つあり、divとrotというものがあるのですが、これは機械学習で現れたことはありません。

 

確率・統計

教科書
確率・統計 (理工系の数学入門コース 7)

確率・統計 (理工系の数学入門コース 7)

 

 理工系向けに作られた岩波のシリーズで、最も平易に書かれたコースです。

特段比較をしたことがないのでこれが分かりやすいのかはよく分かりません。しかしシリーズ通して例題を豊富に準備しているので、具体的な計算を通して理解したい人には向いていると思います。発展的な内容はありませんが、このレベルを抑えておけば十分かと思います。

 

1変数の確率統計をまず抑えてしまえば、線形代数と組み合わせて多次元への拡張も出来るはずです。多次元の確率分布が上手く納得できないのは、大抵線形代数の計算式を想像できないことが原因です。計算式が想像できたとしたら、確率統計に関する知識はさほど難しいものは使っていないはずです。

 

 ベイズ統計
基礎からのベイズ統計学: ハミルトニアンモンテカルロ法による実践的入門

基礎からのベイズ統計学: ハミルトニアンモンテカルロ法による実践的入門

 

 ある程度基本的な統計学がわかった上で読む本です。

数学のレベルとしてはさほど高くありません。具体的なアルゴリズムを導入する本ですが、そこは抜きにしても、ベイズ統計がどんなものであって、どういう方法で予測に用いるのかの流れが理解できるのでオススメです。機械学習には機械学習の優れたアルゴリズムがあるので、この本で紹介されているアルゴリズムはベイズ統計のことを理解する題材だと思ったほうがいいでしょう。

 

私はベイズ統計を学ぶときたまたまこの本を手に取っただけで、流行りのベイズですから、もっといい本はたくさんあるかもしれません。

 

最適化数学

 少し砕けた教科書
これなら分かる最適化数学―基礎原理から計算手法まで

これなら分かる最適化数学―基礎原理から計算手法まで

 

 

数学の本でハードカバーですが、お固い本ではありません。

例を豊富に紹介しながら、時折学生役が面白く難易度の高い質問をぶつけるコーナーがあります。しかし内容は至って真面目で、本当にわかってほしいという気持ちが伝わってくる本になっています。

また、線形代数や微分などの基礎知識を持っている必要はありますが、それ故にそれらの知識を使いこなす練習にもなります。ここで出てくる式変形をしっかり追えるようになると、力が身についてきたことの証明にもなりでしょう。しかも導出はかなり丁寧なので、じっくり読めばちゃんと理解できるようにできています。

最適化数学を学ぶ上でも、数学の基礎知識を確認する上でも良い本だと思います。

 

 

個人的な雑感

これだけ機械学習が流行る時代ですから、機械学習を学ぶための数学をまとめた本が出てもいい頃ではないかなと思っています。それこそ線形代数や微分の計算、確率統計、最適化をまとめたような本です。私が知らないだけで既にあるのでしょうか。