数学

【確率論】中心極限定理

中心極限定理 を示す.中心極限定理は, 母平均とのズレがGauss分布に近づくという意味である. 左辺は母平均とのズレの分布関数, 右辺は, N(0,1)のGauss分布を表している. 証明は, 左辺の確率変数の積率母関数が右辺の分布関数の積率母関数と同じになることを…

【確率論】大数の法則

Chebyshevの不等式から証明できる. Chebyshevの不等式の証明は次のリンクへ. umashika5555.hatenablog.com 確率変数の期待値と分散を計算する. 次にChebyshevの不等式より のとき, これはすなわち, を表している.

【確率論】Chebyshevの不等式

を示す. したがって, これより,

【確率論】正規分布の最尤推定

1次元データにおける正規分布を当てはめたときの最尤推定の計算 尤度関数 対数尤度関数 で偏微分 で偏微分

【確率論】指数分布

定義 積分 期待値 分散 積率母関数 図 import numpy as np import matplotlib.pyplot as plt import scipy.stats as stats from IPython.core.pylabtools import figsize figsize(12.5, 4) expo = stats.expon lambda_ = [0.5, 1, 1.5] # 指数分布のパラメタ…

【確率論】Gauss分布

定義 積分 まずガウス積分の導出を行う. と置き, ヤコビアンはと計算できる. とおく. 次に, の導出を行う. これはと置きガウス積分に代入できる. その際, よりガウス積分の結果に係数が付き, 最終的な結果がとなる.これらの結果から, 正規分布の積分が計算で…

【確率論】幾何分布

定義 意味 ベルヌーイ試行で初めて成功するまでの試行回数の確率 積分 期待値 分散 積率母関数 図 scipy.stats.geomではで定義されているため, は定義なし. 成功確率が高いときは大きい試行回数の値で確率が小さくなり, 反対に成功確率が小さいときは大きい…

【確率論】Poisson分布

定義 導出 Poisson分布は二項分布の にして定義されている. 二項分布 積分 のマクローリン展開はよりであるから, 期待値 分散 を利用する. 積率母関数 マクローリン展開を利用する. 図 import numpy as np import matplotlib.pyplot as plt import scipy.sta…

【tex】独立記号の定義

LaTeXでグラフィカルモデルなどで用いる_||_という記号の定義 \newcommand{\indepe}{\mathop{\perp\!\!\!\perp}} \newcommand{\notindepe}{\mathop{\perp\!\!\!\!\!\!/\!\!\!\!\!\!\perp}}

(曲線, 曲面) の法線と接線

機械学習をやる上で重要な線形代数学と微分のお話.多次元の曲線に関するベクトルの計算を導入する. 厳密な説明ではないので, 簡単な二次元の例から多次元へと拡張していく. 曲線の法線ベクトル 曲線 の座標(a, b) における法線ベクトルが であることを示す. …

【numpy】 行列結合

a = np.array([[1, 2], [3, 4], [5, 6], [7, 8]]) b = np.array([[1, 2], [3, 4], [5, 6], [7, 8]]) c = np.vstack((a, b)) c = np.array([[1, 2], [3, 4], [5, 6], [7, 8], [1, 2], [3, 4], [5, 6], [7, 8]])

最小二乗法をフルスクラッチで実装する

ココで言うフルスクラッチは行列演算以外である. 行列演算は本質ではないので, 行列演算ライブラリは使うことにする.前回の記事で線形モデルの最小二乗法について, パラメータの解が で得られることが分かった. これをPythonによって実装してみる. 今回は一…

最小二乗法概略

予測モデルをつくるときに最も簡単な方法としては「最小二乗法による線形モデル」と「k近傍モデル」である. この2つは統計学や機械学習を学んでいない人でも割と思いつきそうな方法である. 線形モデルとはパラメータに対して線形なモデルという意味である. …

【グラフ理論】 オイラーグラフについて

「オイラーグラフ」という考え方は,「中国人郵便配達問題」を考える際に重要になってくる. 中国人郵便配達問題とは, 正の重み付き無向グラフについて, 重みの和が最小となる閉路(閉じた道)を求める問題である.まずはオイラーグラフについて考える. オイラー…

【グラフ理論】 隣接行列について諸定理

グラフ理論勉強会No.04隣接行列は頂点から頂点への辺の本数を表すものである. 単純グラフではループが無いため, 対角成分の要素は0である.行列の表し方には 隣接行列 接続行列 隣接リスト などの表現方法がある. 定理1.10 ループを含まない(p,q)-グラフGの点…

【グラフ理論】 次数について諸定理

グラフ理論勉強会No.03 用語 次数 頂点vに接続する辺の本数 などで表す. 孤立点 次数0の頂点 (グラフGの)最大次数, 最小次数 それぞれと表す. 偶点, 奇点 偶数, 奇数の次数の頂点 平均次数 一頂点あたりから出ている辺の個数. 定理1.5 (握手の補題) (p,q)-…

【グラフ理論】 ダイキストラ法

グラフ理論勉強会No.02ダイキストラ法とは重みが最小である道を求めるために用いられているアルゴリズムの一つ. (最短経路問題の中では, 2頂点対最短経路問題で辺の重みが非負の有向グラフに適応できるアルゴリズムという位置づけらしい. この問題を解くアル…

【グラフ理論】 グラフの半径と直径の関係

グラフ理論勉強会No. 01定理1.2 説明: まずrad, diamの説明の前に離心数を定義する必要がある. 離心数とは, 連結グラフGの点vにおいて で定義される数. グラフの半径rad(G)とは各頂点における離心数の最小値で定義される数. グラフの直径diam(G)とは各頂点に…