はしくれエンジニアもどきのメモ

情報系技術・哲学・デザインなどの勉強メモ・備忘録です。

math

畳み込み積分は結局何を計算してるのかメモ

畳み込み積分は結局何を計算してるのかメモ 畳み込み積分をフーリエかラプラス変換で周波数領域にすると積の形にできて便利だよねくらい雑に理解してたので、 時間領域でどんな計算してるのかメモとして残す。 この記事で出てくる式や図はgistにまとめている…

ルートと無限連分数メモ

ルートと無限連分数メモ ルートの入った無理数を無限連分数で表現しようという面白い記事があったのでメモ. また,収束条件を満たすかあたりも残しておく. gendai.ismedia.jp ルートと無限連分数メモ 環境 ルートを求めるテク 収束を可視化 無限連分数で表…

2次の分数関数の積分とhyperbolic tangentへの変換

2次の分数関数の積分とhyperbolic tangentへの変換 2次の分数関数$\frac{1}{ax^{2}+bx+c}$の積分の導出とhyperbolic tangentへの変換メモ. 2次の分数関数の積分とhyperbolic tangentへの変換 まず平方完成する $1/(x^{2} + k^{2})$の積分を求める 平方完成…

微分方程式モデルでPursuitCurve問題を解く:hawk-pigeon問題

微分方程式モデルでPursuitCurve問題を解く:hawk-pigeon問題 微分方程式モデルでPursuitCurve問題:hawk-pigeon問題(鳩を追いかける鷹の追跡曲線)を解くメモ. hawk-pigeonモデルとここでは呼んでいるが他の専門書では 商船を追いかける海賊船 飛んでいる飛…

点とバウンディングボックスとの距離を求める

点とバウンディングボックス(超長方形hyper rectangle)との距離を求める 超次元点と超次元長方形の距離を求めるメモ. 距離の考え方としては以下になる. バウンディングボックスの外に点がある場合は,その最短距離の求め方 バウンディングボックス内に点…

内分点と重み付け平均の考察

内分点と重み付け平均の考察 内分点と重み付け平均の考察メモ gist: 内分点と重み付け平均 · GitHub 内分点と重み付け平均の考察 内分点1つの場合 なぜ重みが逆になるのか 内分点が2つある場合 繰り返し内分点を分ける場合 重み付け平均 データが2種類の場合…

pythonで偏相関係数行列(pcor)を計算

pythonで偏相関係数行列(pcor)を計算 以前,3変数(X,Y,Z)の場合の偏相関係数の式を導出した. cartman0.hatenablog.com 今回は3変数以上の多変数の場合の偏相関係数行列を求めてみる. ただscipy.stats, pandas, statsmodels,scikit-learnなどで関数がない…

線形写像と基底の取替えの表現行列のメモ

線形写像と基底の取替えの表現行列のメモ 線形写像(mapping)と基底の取替えの表現行列での変換を図示化してメモ. MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); 線形写像と…

Twisted GFSRとMersenne Twist(メルセンヌ・ツイスタ)のメモ

Twisted GFSRとMersenne Twist(メルセンヌ・ツイスタ)のメモ 前回はLFSRとGFSRのメモであった. cartman0.hatenablog.com 今回はそれを発展させたTwisted GSRとMersenne Twisteについてのメモ. かんたんな発展の流れとしては Twisted GSR: GFSR(一般フィ…

線形フィードバックシフトレジスタLFSR,一般フィードバックシフトレジスタGFSRのメモ

線形フィードバックシフトレジスタLFSR,一般フィードバックシフトレジスタGFSRのメモ 前回はざっくりM系列法のメモだったが,今回はM系列を利用している線形フィードバックシフトレジスタLFSRと一般フィードバックシフトレジスタGFSRのメモ. cartman0.haten…

疑似乱数発生法 M系列法のメモ

疑似乱数発生法 M系列法のメモ 前回は線形合同法のメモだったが,今回はもう1つの疑似乱数発生法として, メルセンヌ・ツイスタの基になっているM系列法のメモ. cartman0.hatenablog.com MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','…

乱数発生方法と線形合同法のメモ

乱数発生方法と線形合同法のメモ メルセンヌ・ツイスタの前知識として,乱数発生方法と線形合同法のメモ MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); 乱数発生方法と線形…

T種類中のものをx種類引くのに試行回数n回かかる確率

T種類中のものをx種類引くのに試行回数n回かかる確率 前回は,T種類中のものをn回引いてx種類当てる確率(n:固定値,x:確率変数)を求めたが, cartman0.hatenablog.com これを利用してT種類中のものをx種類引くのに試行回数n回かかる確率$P(n|x)$(つまり…

グラフィカルモデリング・機械学習などでよく使う正規分布の性質

グラフィカルモデリング・機械学習などでよく使う正規分布の性質 グラフィカルモデリング・機械学習などでよく使う正規分布の性質のメモ 随時追加予定. 参考: SimonJ.D.Prince,Computer Vision Models, Learning, and Inference MathJax.Hub.Config({ tex2…

t分布が平均が同じ正規分布の無限混合分布であることをシミュレーションする

t分布が平均が同じ正規分布の無限混合分布であることをシミュレーションする 厳密には,t分布は,平均が同じ,分散がガンマ分布に従うスケールパラメータ$h$でスケールされた での正規分布で hをすべての範囲(無限)について足し合わせた(積分した)混合分…

ベクトル・行列の微分メモ

ベクトル・行列の微分メモ 確率・統計・グラフィカルモデリング・機械学習あたりに出てきそうなベクトル・行列の微分のメモ 随時追加予定 参考: https://www.ics.uci.edu/~welling/teaching/KernelsICS273B/MatrixCookBook.pdf MathJax.Hub.Config({ tex2ja…

多次元正規分布の周辺分布と条件付分布を計算する

多次元正規分布の周辺分布と条件付分布を計算する 多次元正規分布の周辺分布と条件付分布もまた正規分布になる. そのときのパラメータ(平均,分散)を導出する. D次元正規分布に従う確率変数ベクトルを$\vec{x}$, 平均ベクトルを$\vec{\mu}$, 共分散行列…

2つの正規分布の密度(pdf)の積から導出できる正規分布

2つの正規分布の密度(pdf)の積から導出できる正規分布 正規分布の積もまた正規分布になるので,その正規分布のパラメータ(平均,分散)を導出する. (なお,確率変数の積ではない) 参考: Udemyの「ベイズ推定とグラフィカルモデル:コンピュータビジョン…

正規逆ガンマ分布の事後分布のパラメータ更新式と予測分布の導出

正規逆ガンマ分布の事後分布のパラメータ更新式と予測分布の導出 Udemyの「ベイズ推定とグラフィカルモデル:コンピュータビジョン基礎1」(テキスト:"Computer vision: models, learning and inference" by Simon Prince)で, 事後分布のパラメータ式のみ…

正規逆ガンマ分布の確率密度関数の導出・可視化・サンプリング

正規逆ガンマ分布の確率密度関数の導出・可視化・サンプリング Udemyの「ベイズ推定とグラフィカルモデル:コンピュータビジョン基礎1」の授業で, ベイズ統計で正規分布のパラメータの分布に使われる正規逆ガンマ分布の紹介があったので,導出と可視化のメ…

正規逆ガンマ分布の分散についての積分からt分布を導出

正規逆ガンマ分布の分散についての積分からt分布を導出 MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); 補題的な内容,何とか導出できたのでメモ. この補題は,ベイズ統計で…

不等式制約条件におけるLagrangeの未定乗数法の考え方

不等式制約条件におけるLagrangeの未定乗数法の考え方 特に,不等式制約条件におけるLagrangeの未定乗数法の考え方のメモ. 参考資料: 第4回 不等式制約条件の場合の未定乗数法 · levelfour/machine-learning-2014 Wiki · GitHub MathJax.Hub.Config({ tex2…

偏相関係数の導出メモ

偏相関係数の導出メモ github: https://github.com/Cartman0/MultivariateAnalysis/blob/master/PartialCorrelationCoefficient_%E5%81%8F%E7%9B%B8%E9%96%A2%E4%BF%82%E6%95%B0%E3%81%AE%E5%B0%8E%E5%87%BA.ipynb 偏相関係数の導出方法のメモ. 参考資料: …

ABO遺伝子型の次世代分布をマルコフ推移でみる

ABO遺伝子型の次世代分布をマルコフ推移でみる ABO遺伝子型(AA, AO, BB, BO, AB, OO)の次世代分布をマルコフ推移させて, マルコフ定常するのか発散するのかをシミュレーションしてみる. きっかけとしては,日本だとBB型の人は3%しかいなく,単純に世代を繰…

cos類似度の次元の呪い

cos類似度の次元の呪い 元ネタはこちらの記事 コサイン類似度が高いベクトルはどれくらい似ているか(岩波データサイエンス刊行イベントより) - 木曜不足. cos類似度は計算しやすいので,言語処理界隈では単語ベクトルや画像理処理界隈ではヒストグラムをベ…

2つのヒストグラムからKL情報量を計算する

2つのヒストグラムからKL情報量を計算する MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); 2つの確率密度関数からKL情報量を計算できるなら, (経験的)ヒストグラム密度か…

逆誤差伝播法(バックプロパゲーション)で関数の微分値を求める

逆誤差伝播法(バックプロパゲーション)で関数の微分値を求める MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); TheanoやPytorchのforward関数やbackward関数がどういう計算…

正規分布間のKL情報量を計算する

正規分布間のKL情報量を計算する MathJax.Hub.Config({ tex2jax: { inlineMath: [['$','$'], ['\\(','\\)']], displayMath: [ ['$$','$$'], ["\\[","\\]"] ] } }); gist: 正規分布間のKL情報量 · GitHub KL情報量が1や2といったときに,どのくらいの大きさか…

ごっちゃになりやすい排反と統計的独立のメモ

ごっちゃになりやすい排反と統計的独立のメモ 事象の排反と統計的独立,この2つは確率の教科書の最初の方に登場し, 読み進めていくと(教科書の問題は基本的に整備されている・もしくは暗黙的に仮定されている場合が多く)ここを意識していなくてもトラブル…

ロルの定理と平均値の定理メモ

.gist iframe.render-viewer {min-height: 600rem} ロルの定理と平均値の定理メモ テイラーの定理の前に, ロルの定理と平均値の定理の復習メモ (Jupyter Notebookにまとめた) nbviewer ロルの定理と平均値の定理メモ note 参考文献