2つのヒストグラムからKL情報量を計算する

2つのヒストグラムからKL情報量を計算する

2つの確率密度関数からKL情報量を計算できるなら， （経験的）ヒストグラム密度からでもKL情報量を計算できるじゃんというメモ．

逆誤差伝播法で関数の微分値を求める

逆誤差伝播法で関数の微分値を求める

TheanoやPytorchのforward関数やbackward関数がどういう計算しているのか知りたくなったので， そのメモ．

今回はニューラルネットワークの線形和部分は無視して， 関数の微分値を求めることを考える．

例としてシグモイド関数の微分値を求める．

正規分布間のKL情報量を計算する

正規分布間のKL情報量を計算する

gist: 正規分布間のKL情報量 · GitHub

KL情報量が1や2といったときに，どのくらいの大きさかよくわからなかったので， 標準正規分布を基準にしたときどれくらいズレた正規分布だとこの大きさになるのか調べてみた．

つまり，下の図を作りたかった．

平均をズラしていった時のKL情報量

実行環境

• Windows10
  • conda 4.6.12
    • python 3.7.0

はてなブログ(markdown記法)で数式を書くメモ

はてなブログ(markdown記法)で数式を書くメモ

mathjaxを使って，通常のmd，htmlで数式が問題なく表示されてもはてなブログのほうにコピペしてみると以下の問題が絡み合って表示されないことがある．

• markdownの記号がバッティングする問題
• はてなブログ記法モードで使っている記号がバッティングする問題
• はてなブログキーワードリンクに自動変換されてしまう問題
• はてなブログtex記法でのエスケープ問題

結論としては以下の形式で書いておくと表示可能性が高い．

<pre>
[tex:
数式
]
</pre>

ごっちゃになりやすい排反と統計的独立のメモ

ごっちゃになりやすい排反と統計的独立のメモ

事象の排反と統計的独立，この2つは確率の教科書の最初の方に登場し， 読み進めていくと（教科書の問題は基本的に整備されている・もしくは暗黙的に仮定されている場合が多く）ここを意識していなくてもトラブルなく， いざ実データを見たときにこのデータは排反なのか特に統計的独立といっていいのかどうか悩むあるあるのような気がするのでメモ．

文章もlintできるtextlint導入メモ

文章もlintできるtextlint導入メモ

文章にもlintできるtextlint導入のメモである． ruleを追加して校正できるようになる．

textlint.github.io

環境

• Windows10
  • Atom 1.36.0
  • npm 6.7.0

TypeScriptの環境作成メモ

TypeScriptの環境作成メモ

Typescript用の環境を作っていくメモ． エディタは，IDE代わりにもなるVSCodeを使っていく．

環境

• Windows10
  • VSCode 1.32.3

引用(blockquote)のCSSスタイルメモ

引用(blockquote)のCSSスタイルメモ

技術記事くらいにしか登場しないblockquoteタグのスタイルメモ．

See the Pen blockquotesStyle by Cartman (@Cartman0) on CodePen.

JSのユニットテストフレームワークJasmine 3系メモ

JSのユニットテストフレームワークJasmine 3系メモ

CodeprepさんでJavaScriptのコードレベルBDD向けのユニットテストフレームワークJasmineの紹介があったので，v3系の使い方メモ． （基本的にはv2系と変わらない）

環境

• Windows10

nvm-windowsでNode.jsのバージョン管理をする

nvm-windowsでNode.jsのバージョン管理をする

npm自体のアップデートはnpm install -g npmでできるが， Node.js自体のアップデートができないようなのでバージョン管理ツールnvm-windows(nvmコマンド)を導入する．

環境

• Windows10