今までは平方完成とか特定の分布の関数形への「当てはめ」をしてパラメータの事後分布を求めていたが，変分推論ではパラメータの分布をそれぞれの積として表し，平方完成とは違う形で関数形を求める．全分布 $p(X, Z)$ の形から関数形が自動的に決まる．

毎回ググっている気がするので，ここでまとめておく．

混合ガウス分布の最尤推定を解く手法のひとつとしてEMアルゴリズムを導入する．

SVMとRVM

ガウス過程回帰など

ネットーワークの基礎知識 の応用編．多いのでコツコツとメモっていく．

「上位nビットを求める」「下位nビットを求める」といった操作をアドレス演算ではよく行う．そのときのマスクを16進数表記ですぐに求められるのが望ましい．

またCIDR表記からサブネットアドレスなどをすぐに求められると嬉しい．

gitでシンボリックリンクを除外することはできないのかなあと思うことがあるのだが，シンボリックリンクは対象ファイルへのパスを書いたファイルみたいなものらしいということを知って，inodeとかdentryについて調べたときのメモ．

誤差逆伝播法の公式を並べておこうと思う(特にN個のデータをバッチ形式で入力する際の公式)．

初心者がニューラルネットワークを実装する際に気をつけておきたいことは，逆伝播では順伝播の値をキャッシュする必要があるということである．

“Decision Making under Uncertainty"を参考にしている．Monte Carlo Tree Search(MCTS)はアルファ碁にも用いられたことで有名である．

木の上の再帰関数だから競プロ的な雰囲気で理解したほうが良いのかも．