非線形な場合の一般論は扱わず,目的関数が2次形式,制約はアフィンなものに絞って主内点法,主双対内点法のアルゴリズムをメモる.
今までは平方完成とか特定の分布の関数形への「当てはめ」をしてパラメータの事後分布を求めていたが,変分推論ではパラメータの分布をそれぞれの積として表し,平方完成とは違う形で関数形を求める.全分布 $p(X, Z)$ の形から関数形が自動的に決まる.
毎回ググっている気がするので,ここでまとめておく.
混合ガウス分布の最尤推定を解く手法のひとつとしてEMアルゴリズムを導入する.
SVMとRVM
ガウス過程回帰など
ネットーワークの基礎知識 の応用編.多いのでコツコツとメモっていく.
フレネーセレの公式の曲面版としてガウス・ワインガルテンの公式を導入する.
収束性に着目して位相に関する概念と性質の解釈をメモる.
「上位nビットを求める」「下位nビットを求める」といった操作をアドレス演算ではよく行う.そのときのマスクを16進数表記ですぐに求められるのが望ましい.
またCIDR表記からサブネットアドレスなどをすぐに求められると嬉しい.