はしくれエンジニアもどきのメモ

情報・Web系技術・Englishの勉強メモ・備忘録です。

math

正規逆ガンマ分布の事後分布のパラメータ更新式と予測分布の導出

正規逆ガンマ分布の事後分布のパラメータ更新式と予測分布の導出 Udemyの「ベイズ推定とグラフィカルモデル:コンピュータビジョン基礎1」(テキスト:"Computer vision: models, learning and inference" by Simon Prince)で, 事後分布のパラメータ式のみ…

正規逆ガンマ分布の確率密度関数の導出・可視化・サンプリング

正規逆ガンマ分布の確率密度関数の導出・可視化・サンプリング Udemyの「ベイズ推定とグラフィカルモデル:コンピュータビジョン基礎1」の授業で, ベイズ統計で正規分布のパラメータの分布に使われる正規逆ガンマ分布の紹介があったので,導出と可視化のメ…

正規逆ガンマ分布の分散についての積分からt分布を導出

正規逆ガンマ分布の分散についての積分からt分布を導出 MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); 補題的な内容,何とか導出できたのでメモ. この補題は,ベイズ統計で…

不等式制約条件におけるLagrangeの未定乗数法の考え方

不等式制約条件におけるLagrangeの未定乗数法の考え方 特に,不等式制約条件におけるLagrangeの未定乗数法の考え方のメモ. 参考資料: 第4回 不等式制約条件の場合の未定乗数法 · levelfour/machine-learning-2014 Wiki · GitHub MathJax.Hub.Config({ tex2…

偏相関係数の導出メモ

偏相関係数の導出メモ github: https://github.com/Cartman0/MultivariateAnalysis/blob/master/PartialCorrelationCoefficient_%E5%81%8F%E7%9B%B8%E9%96%A2%E4%BF%82%E6%95%B0%E3%81%AE%E5%B0%8E%E5%87%BA.ipynb 偏相関係数の導出方法のメモ. 参考資料: …

ABO遺伝子型の次世代分布をマルコフ推移でみる

ABO遺伝子型の次世代分布をマルコフ推移でみる ABO遺伝子型(AA, AO, BB, BO, AB, OO)の次世代分布をマルコフ推移させて, マルコフ定常するのか発散するのかをシミュレーションしてみる. きっかけとしては,日本だとBB型の人は3%しかいなく,単純に世代を繰…

cos類似度の次元の呪い

cos類似度の次元の呪い 元ネタはこちらの記事 コサイン類似度が高いベクトルはどれくらい似ているか(岩波データサイエンス刊行イベントより) - Mi manca qualche giovedi`?. cos類似度は計算しやすいので,言語処理界隈では単語ベクトルや画像理処理界隈で…

2つのヒストグラムからKL情報量を計算する

2つのヒストグラムからKL情報量を計算する MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); 2つの確率密度関数からKL情報量を計算できるなら, (経験的)ヒストグラム密度か…

逆誤差伝播法で関数の微分値を求める

逆誤差伝播法で関数の微分値を求める MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); TheanoやPytorchのforward関数やbackward関数がどういう計算しているのか知りたくなった…

正規分布間のKL情報量を計算する

正規分布間のKL情報量を計算する MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); gist: 正規分布間のKL情報量 · GitHub KL情報量が1や2といったときに,どのくらいの大きさか…

ごっちゃになりやすい排反と統計的独立のメモ

ごっちゃになりやすい排反と統計的独立のメモ 事象の排反と統計的独立,この2つは確率の教科書の最初の方に登場し, 読み進めていくと(教科書の問題は基本的に整備されている・もしくは暗黙的に仮定されている場合が多く)ここを意識していなくてもトラブル…

ロルの定理と平均値の定理メモ

.gist iframe.render-viewer {min-height: 600rem} ロルの定理と平均値の定理メモ テイラーの定理の前に, ロルの定理と平均値の定理の復習メモ (Jupyter Notebookにまとめた) nbviewer ロルの定理と平均値の定理メモ note 参考文献

連立1次方程式の解を求めるクラメールの公式(と行列式)の計算量

.gist iframe.render-viewer {min-height: 200rem} 連立1次方程式の解を求めるクラメールの公式(と行列式)の計算量 連立1次方程式の解を求めるクラメールの公式の計算量(乗除算回数)は膨大なので,コンピュータで実行するには向かないという話. (Jupyte…

Law of total Expectations(全期待値則)メモ

Law of total Expectations(全期待値則)メモ 確率に出てくるtotal Expectations則(日本語だと全期待値則?)のメモ. 次のように期待値(expected) operatorが2つ出てくる. \begin{eqnarray} E[X] = E[E[X|Y]] = \sum_{y}{ E[X|Y=y]P(Y=y) } \end{eqnarra…

自然数nが√n以下のすべての素数で割り切れなければ,nは素数であることの証明

自然数nが√n以下のすべての素数で割り切れなければ,nは素数であることの証明 自然数$n$が$\sqrt{n}$以下のすべての整数で割り切れなければ,$n$は素数であることの証明メモ. 自然数nが√n以下のすべての素数で割り切れなければ,nは素数であることの証明 対…