初めに
ベイズの勉強中の私が、個人的に良かった！良さそう！と思った記事をメモした記事です。
理論的な話題
渡辺先生の理論
有名な赤池情報量基準(AIC)やベイズ情報量基準(BIC)を更に広範囲に適用可能にしたWAIC並びにWBICを導出した渡辺先生の理論をまとめてくださっている記事です。純粋数学専攻の立場から、ベイズ統計について解説してくださっており、どこまでをどのレベルの数学を用いて理解すべきかの指針にも触れられています。
主に以下の書籍の内容に書かれていることの要約と言っていいでしょう。
同様に以下の記事も上記の書籍の内容を非常に簡潔にまとめています。
体系的に学べる無料動画
コンピュータービジョンって題してありますが、具体例がコンピュータービジョンというだけであって、特に画像処理などの事前知識は必要ありません。是非受講してみてください。
実践的な話題
変分ベイズ法
以下の3つの記事は連続的につながっているのでまとめて見たほうが良いと思われます。変分近似について数式ベースで解説した後、(3)では数値実験も行っております。
machine-learning.hatenablog.com
machine-learning.hatenablog.com
machine-learning.hatenablog.com
サンプリング法
ギブスサンプリングに焦点を当てた記事です。詳しく説明するだけでなく、数値実験も行われています。サンプリング法の雰囲気をつかむのに良いと思います。
崩壊型ギブスサンプリングの記事です。アルゴリズムに至るまでの計算過程を具体的な分布を使って提示しています（これが自然にできるか否かが、ベイズに取り掛かれるの差になるのかもしれない…。バックプロパゲーションに丸投げに慣れすぎてしまった。）。
machine-learning.hatenablog.com
プログラミングの話題
今年公開されたedward。TensorFlowに統合されることになりました。notebookを見ながら勉強していくというのも、今や定番の勉強方法です（TensorFlowの基本が前提になります）。
Edwardを使った記事も出てきたので、是非活発化して欲しいと思っています。
PyCon2017でのEdwardの話です。Pythonよりもニューラルネットやベイズの話のほうが長いため、返って参考になりました。
当ブログの記事
