不等式制約条件におけるLagrangeの未定乗数法の考え方 特に，不等式制約条件におけるLagrangeの未定乗数法の考え方のメモ． 参考資料： 第4回 不等式制約条件の場合の未定乗数法 · levelfour/machine-learning-2014 Wiki · GitHub 不等式制約条件におけるLag…

偏相関係数の導出メモ github: https://github.com/Cartman0/MultivariateAnalysis/blob/master/PartialCorrelationCoefficient_%E5%81%8F%E7%9B%B8%E9%96%A2%E4%BF%82%E6%95%B0%E3%81%AE%E5%B0%8E%E5%87%BA.ipynb 偏相関係数の導出方法のメモ． 参考資料： …

ABO遺伝子型の次世代分布をマルコフ推移でみる ABO遺伝子型(AA, AO, BB, BO, AB, OO)の次世代分布をマルコフ推移させて， マルコフ定常するのか発散するのかをシミュレーションしてみる． きっかけとしては，日本だとBB型の人は3%しかいなく，単純に世代を繰…

cos類似度の次元の呪い 元ネタはこちらの記事 コサイン類似度が高いベクトルはどれくらい似ているか(岩波データサイエンス刊行イベントより) - 木曜不足． cos類似度は計算しやすいので，言語処理界隈では単語ベクトルや画像理処理界隈ではヒストグラムをベ…

2つのヒストグラムからKL情報量を計算する 2つの確率密度関数からKL情報量を計算できるなら， （経験的）ヒストグラム密度からでもKL情報量を計算できるじゃんというメモ． 2つのヒストグラムからKL情報量を計算する 離散分布のKL情報量 histogramの密度化 …

逆誤差伝播法（バックプロパゲーション）で関数の微分値を求める TheanoやPytorchのforward関数やbackward関数がどういう計算しているのか知りたくなったので， そのメモ． 今回はニューラルネットワークの線形和部分は無視して， 関数の微分値を求めること…

正規分布間のKL情報量を計算する gist: 正規分布間のKL情報量 · GitHub KL情報量が1や2といったときに，どのくらいの大きさかよくわからなかったので， 標準正規分布を基準にしたときどれくらいズレた正規分布だとこの大きさになるのか調べてみた． つまり，…