"機械学習","信号解析","ディープラーニング"の勉強

HELLO CYBERNETICS

深層学習、機械学習、強化学習、信号処理、制御工学などをテーマに扱っていきます

ベイズの勉強に良さそうな記事まとめ

 

 

 

初めに

ベイズの勉強中の私が、個人的に良かった!良さそう!と思った記事をメモした記事です。

 

理論的な話題

渡辺先生の理論

有名な赤池情報量基準(AIC)やベイズ情報量基準(BIC)を更に広範囲に適用可能にしたWAIC並びにWBICを導出した渡辺先生の理論をまとめてくださっている記事です。純粋数学専攻の立場から、ベイズ統計について解説してくださっており、どこまでをどのレベルの数学を用いて理解すべきかの指針にも触れられています。

 

mathetake.hatenablog.com

 

主に以下の書籍の内容に書かれていることの要約と言っていいでしょう。

 

ベイズ統計の理論と方法

ベイズ統計の理論と方法

 

 

同様に以下の記事も上記の書籍の内容を非常に簡潔にまとめています。

statmodeling.hatenablog.com

 

体系的に学べる無料動画

コンピュータービジョンって題してありますが、具体例がコンピュータービジョンというだけであって、特に画像処理などの事前知識は必要ありません。是非受講してみてください。

www.udemy.com

 

 

実践的な話題

変分ベイズ法

以下の3つの記事は連続的につながっているのでまとめて見たほうが良いと思われます。変分近似について数式ベースで解説した後、(3)では数値実験も行っております。

 

machine-learning.hatenablog.com

machine-learning.hatenablog.com

machine-learning.hatenablog.com

 

 

サンプリング法

ギブスサンプリングに焦点を当てた記事です。詳しく説明するだけでなく、数値実験も行われています。サンプリング法の雰囲気をつかむのに良いと思います。

nykergoto.hatenablog.jp

 

 

崩壊型ギブスサンプリングの記事です。アルゴリズムに至るまでの計算過程を具体的な分布を使って提示しています(これが自然にできるか否かが、ベイズに取り掛かれるの差になるのかもしれない…。バックプロパゲーションに丸投げに慣れすぎてしまった。)。

machine-learning.hatenablog.com

 

 

 

 

プログラミングの話題

今年公開されたedward。TensorFlowに統合されることになりました。notebookを見ながら勉強していくというのも、今や定番の勉強方法です(TensorFlowの基本が前提になります)。

github.com

 

Edwardを使った記事も出てきたので、是非活発化して欲しいと思っています。

mathetake.hatenablog.com

 

 

PyCon2017でのEdwardの話です。Pythonよりもニューラルネットやベイズの話のほうが長いため、返って参考になりました。

www.youtube.com

 

 

 

 

 

 

 

 

当ブログの記事

 

s0sem0y.hatenablog.com

s0sem0y.hatenablog.com