]> 統計関数

統計解析学の代表的関数

0. 正規分布

0.1. 定義

平均（期待値） $μ$ 、分散 $σ^{2}$ の正規分布を $N (μ, σ^{2})$ で表すものとする。その確率密度関数 $φ (x)$ はつぎのようになる。

φ (x) = \frac{1}{\sqrt{2 π} σ} exp \{- \frac{1}{2} {(\frac{x - μ}{σ})}^{2}\} (1)

とくに、平均値（期待値） $0$ 、分散 $1$ の（標準）正規分布 $N (0, 1)$ の確率密度関数はつぎの式で与えられる。

φ (x) = \frac{1}{\sqrt{2 π}} e^{- \frac{x^{2}}{2}} (1 a)

1. カイ二乗分布

1.1. 定義

標準正規分布 $N (0, 1)$ に従う $k$ 個の確率変数を $X_{1}, X_{2}, \dots, X_{k}$ とする。新しい確率変数 $Y$ がつぎのように定義されるとき、

Y = \sum_{i = 1}^{k} X_{i}^{2} (2)

それは、自由度 $k$ のカイ二乗分布に従う。

1.2.カイ二乗（ $χ^{2}$ ）分布の確率密度関数

1.2.1. 自由度 $1$ のカイ二乗分布

まず最初に自由度 $1$ のカイ二乗分布を扱う。確率変数 $X$ が正規分布 $N (0, 1)$ に従うとき、新しい確率変数 $Y = X^{2}$ が $Y < y$ となる確率 $P (Y < y)$ はつぎのようになる。

P (Y < y) = P (- \sqrt{y} < X < \sqrt{y}) = \frac{1}{\sqrt{2 π}} \int_{- \sqrt{y}}^{\sqrt{y}} e^{- \frac{x^{2}}{2}} ⅆ x

確率密度関数は上記の式を $y$ で微分すれば得られ、つぎの式となる。

f_{1} (y) = \frac{1}{\sqrt{2 π}} e^{- \frac{y}{2}} \frac{1}{2 \sqrt{y}} - \frac{1}{\sqrt{2 π}} e^{- \frac{y}{2}} (- \frac{1}{2 \sqrt{y}}) = \frac{1}{\sqrt{2 π}} e^{- \frac{y}{2}} \frac{1}{\sqrt{y}}

書き直すと、自由度 $1$ の確率密度関数はガンマ関数を使ってつぎの式に表される。

f_{1} (y) = \frac{1}{\sqrt{2}} \frac{1}{Γ (\frac{1}{2})} e^{- \frac{y}{2}} y^{\frac{1}{2} - 1} (3)

1.2.2. 自由度 $2$ のカイ二乗分布

$X, Y$ をそれぞれ自由度 $1$ のカイ二乗分布にしたがう互いに独立な確率変数とする。このとき $Z = X + Y$ なる確率変数のついて累積確率を得る。 $X, Y$ は独立であるから、 $X$ と $Y$ の同時確率密度関数 $f (x, y)$ はそれぞれの確率密度関数の積 $f (x) f (y)$ に等しい。したがって、

P (Z = X + Y < z) = \int \int_{x + y < z} f (x, y) ⅆ x ⅆ y = \int \int_{x + y < z} f_{1} (x) f_{1} (y) ⅆ x ⅆ y = \int_{0}^{z} f_{1} (y) \{\int_{0}^{z - y} f_{1} (x) ⅆ x\} ⅆ y

がなりたつ。そこで両辺を $z$ で微分することで確率密度関数 $f (z)$ を得る。

f_{2} (z) = \int_{0}^{z} f (y) f (z - y) ⅆ y = \frac{e^{- \frac{z}{2}}}{2 Γ (\frac{1}{2}) Γ (\frac{1}{2})} \int_{0}^{z} \frac{1}{\sqrt{y} \sqrt{z - y}} ⅆ y

$y = z {sin}^{2} θ$ と変数変換すると、

\int_{0}^{z} \frac{1}{\sqrt{y} \sqrt{z - y}} ⅆ y = \int_{0}^{\frac{π}{2}} \frac{2 z sin θ \cdot cos θ}{\sqrt{z - z {sin}^{2} θ} \sqrt{z {sin}^{2} θ}} ⅆ θ = π

したがって、自由度 $2$ のカイ二乗分布の確率密度関数はつぎのようになる。

f_{2} (z) = \frac{1}{2} e^{- \frac{z}{2}} (4)

1.2.3. 一般の自由度のカイ二乗分布

自由度 $m$ のカイ二乗分布の確率密度関数はつぎの式で与えられる。

f_{m} (z) = \frac{1}{2^{\frac{m}{2}} Γ (\frac{m}{2})} z^{\frac{m}{2} - 1} e^{- \frac{z}{2}} (5)

[証明]

$X$ を自由度 $m - 1$ のカイ二乗分布に、 $Y$ を自由度 $1$ のカイ二乗分布にしたがうものとする。このとき、新しい確率変数 $Z = X + Y$ が、自由度 $m$ のカイ二乗分布にしたがうことを証明すればよい。

$m = 1$ のときは明らかに $(3)$ 式に一致する。また、 $m = 2$ のときは、 $(4)$ 式がなりたつから、 $(5)$ を満足する。 $X$ が自由度 $m - 1$ の確率密度関数

f_{m - 1} (z) = \frac{1}{2^{\frac{m - 1}{2}} Γ (\frac{m - 1}{2})} z^{\frac{m - 1}{2} - 1} e^{- \frac{z}{2}}

にしたがい、 $Y$ が自由度 $1$ のカイ二乗分布であるとき、新しい確率変数 $Z = X + Y$ の累積確率はつぎのようになる。

P (Z < z) = \int_{0}^{z} \{\int_{0}^{z - y} f_{m - 1} (x) ⅆ x\} f_{1} (y) ⅆ y

両辺を $z$ で微分すると確率密度関数となる。

g (z) = \int_{0}^{z} f_{m - 1} (z - y) f_{1} (y) ⅆ y = \frac{e^{- \frac{z}{2}}}{2^{\frac{m}{2}} Γ (\frac{m - 1}{2}) Γ (\frac{1}{2})} \int_{0}^{z} {(z - y)}^{\frac{m - 1}{2} - 1} y^{- \frac{1}{2}} ⅆ y

ここで $y = z u$ と変数変換をすると、上の式の積分部分はベータ関数を使ったつぎの式に帰着される。

\int_{0}^{z} {(z - y)}^{\frac{m - 1}{2} - 1} y^{- \frac{1}{2}} ⅆ y = \int_{0}^{1} {(1 - u)}^{\frac{m - 1}{2}} u^{\frac{1}{2} - 1} ⅆ u = z^{\frac{m}{2} - 1} Β (\frac{m - 1}{2}, \frac{1}{2})

ここでベータ関数とガンマ関数の関係

Β (p, q) = \frac{Γ (p + q)}{Γ (p) Γ (q)}

からつぎのようなって、数学的帰納法により $(5)$ 式が証明された。

g (z) = \frac{1}{2^{\frac{m}{2}} Γ (\frac{m}{2})} z^{\frac{m}{2} - 1} e^{- \frac{z}{2}} = f_{m} (z)

1.2.4. カイ二乗分布の再生性

1.2.3.項の数学的帰納法の論議から、次のカイ二乗の再生性が簡単に求められる。

f_{n} (x) f_{m} (x) = f_{n + m} (x) (6)

2. t-分布

2.1. 定義

確率変数 $X, Y$ がそれぞれ正規分布 $N (0, 1)$ 、自由度 $m$ のカイ二乗分布にしたがい、それぞれは互いに独立なものとする。このとき、あたらしい確率変数

Z = \frac{X}{\sqrt{\frac{Y}{m}}} (7)

は、自由度 $m$ の t-分布（スチューデントの t-分布）にしたがう。

2.2. t-分布の確率密度関数

累積確率はつぎのようになる。

P (Z < z) = \int_{0}^{\infty} \int_{- \infty}^{z \sqrt{\frac{y}{m}}} φ (x) f_{m} (y) ⅆ x ⅆ y = \frac{1}{\sqrt{2 π}} \frac{1}{2^{\frac{m}{2}} Γ (\frac{m}{2})} \int_{0}^{\infty} \int_{- \infty}^{z \sqrt{\frac{y}{m}}} e^{- \frac{x^{2}}{2} - \frac{y}{2}} y^{\frac{m}{2} - 1} ⅆ x ⅆ y

そこで両辺を $z$ で微分して確率密度関数を求める。

g (z) = \frac{1}{\sqrt{2 π}} \frac{1}{2^{\frac{m}{2}} Γ (\frac{m}{2})} \int_{0}^{\infty} \frac{1}{\sqrt{m}} e^{- \frac{y}{2} (\frac{z^{2}}{m} + 1)} y^{\frac{m + 1}{2} - 1} ⅆ y

ここで積分変数を

u = \frac{(1 + \frac{z^{2}}{m}) y}{2}

と変数変換するとつぎのようになる。

g (z) = \frac{1}{\sqrt{m π} \cdot 2^{\frac{m + 1}{2}} Γ (\frac{m}{2})} \cdot \frac{2}{1 + \frac{z^{2}}{m}} \cdot \frac{2^{\frac{m + 1}{2} - 1}}{{(1 + \frac{z^{2}}{m})}^{\frac{m + 1}{2} - 1}} \int_{0}^{\infty} e^{- u} u^{\frac{m + 1}{2} - 1} ⅆ u

これを整理するとつぎのようになる。

g (z) = \frac{Γ (\frac{m + 1}{2})}{\sqrt{m π} Γ (\frac{m}{2})} {(1 + \frac{z^{2}}{m})}^{- \frac{m + 1}{2}} (8)

これが自由度 $m$ の t-分布の確率密度関数である。

3. F分布

3.1. 定義

確率変数 $X, Y$ がそれぞれ自由度 $m, n$ のカイ二乗分布に従い、かつそれらが互いに独立なとき新しい確率変数

Z = \frac{X / m}{Y / n} (9)

は、自由度 $(m, n)$ の F-分布に従う。

3.2. $F$ 分布の確率密度関数

累積確率は以下のようになる。

P (Z < z) = \int_{0}^{\infty} \int_{0}^{\frac{m}{n} y z} f_{m} (x) f_{n} (y) ⅆ x ⅆ y = \frac{1}{2^{\frac{m + n}{2}} Γ (\frac{m}{2}) Γ (\frac{n}{2})} \int_{0}^{\infty} \int_{0}^{\frac{m}{n} y z} x^{\frac{m}{2} - 1} e^{- \frac{x}{2}} y^{\frac{n}{2} - 1} e^{- \frac{y}{2}} ⅆ x ⅆ y

両辺を $z$ で微分して確率密度関数を得る。

g (z) = \frac{1}{2^{\frac{m + n}{2}} Γ (\frac{m}{2}) Γ (\frac{n}{2})} \int_{0}^{\infty} {(\frac{m}{n} y z)}^{\frac{m}{2} - 1} \frac{m}{n} y e^{- \frac{1}{2} \frac{m}{n} y z} y^{\frac{n}{2} - 1} e^{- \frac{y}{2}} ⅆ y = \frac{{(\frac{m}{n})}^{\frac{m}{2}} z^{\frac{m}{2} - 1}}{2^{\frac{m + n}{2}} Γ (\frac{m}{2}) Γ (\frac{n}{2})} \int_{0}^{\infty} e^{- \frac{y}{2} (1 + \frac{m}{n} z)} y^{\frac{m + n}{2} - 1} ⅆ y

ここでつぎのように積分の変数変換を行う。

u = \frac{y}{2} (1 + \frac{m}{n} z), ⅆ y = \frac{2}{1 + \frac{m}{n} z} ⅆ u

すると確率密度関数はつぎのようになる。

g (z) = \frac{{(\frac{m}{n})}^{\frac{m}{2}} z^{\frac{m}{2} - 1} 2^{\frac{m + n}{2} - 1}}{2^{\frac{m + n}{2} - 1} (1 + \frac{m}{n} z) Γ (\frac{m}{2}) Γ (\frac{n}{2}) {(1 + \frac{m}{n} z)}^{\frac{m + n}{2} - 1}} \int_{0}^{\infty} e^{- u} u^{\frac{m + n}{2} - 1} ⅆ u

整理すると　F-分布の確率密度関数はつぎのように表される。

g (z) = \frac{{(\frac{m}{n})}^{\frac{m}{2}} z^{\frac{m}{2} - 1} Γ (\frac{m + n}{2})}{{(1 + \frac{m}{n} z)}^{\frac{m + n}{2}} Γ (\frac{m}{2}) Γ (\frac{n}{2})} = \frac{{(\frac{m}{n})}^{\frac{m}{2}} z^{\frac{m}{2} - 1}}{{(1 + \frac{m}{n} z)}^{\frac{m + n}{2}}} Β (\frac{m}{2}, \frac{n}{2}) (10)

4. 補足

4.1. $t$ -分布の極限が正規分布に収束すること

t-分布の標本数を無限大に近づけてみる。

lim_{m \to \infty} {(1 + \frac{t^{2}}{m})}^{- \frac{m + 1}{2}} = lim_{m \to \infty} {({(1 + \frac{t^{2}}{m})}^{\frac{m}{t^{2}} \frac{t^{2}}{m}})}^{- \frac{m + 1}{2}} = lim_{m \to \infty} e^{- \frac{m + 1}{2} \frac{t^{2}}{m}} = e^{- \frac{t^{2}}{2}}

ここで、自然対数の底 $e$ の定義により、つぎの式がなりたつことを使っている。

lim_{h \to \infty} {(1 + \frac{1}{h})}^{h} = e \Rightarrow lim_{m \to \infty} {(1 + \frac{t^{2}}{m})}^{\frac{m}{t^{2}}} = e

つぎに以下の式について考える。

lim_{m \to \infty} \frac{Γ (\frac{m + 1}{2})}{\sqrt{m π} Γ (\frac{m}{2})}

まず $m$ が奇数のときと偶数のときに分けて考える。

\begin{array}{l} m が偶数 m = 2 k & Γ (\frac{m + 1}{2}) = Γ (k + \frac{1}{2}) = (k - \frac{1}{2}) (k - \frac{3}{2}) \dots \frac{3}{2} \frac{1}{2} \sqrt{π} \\ Γ (\frac{m}{2}) = Γ (k) = (k - 1)! \\ m が奇数 m = 2 k - 1 & Γ (\frac{m + 1}{2}) = Γ (k) = (k - 1)! \\ Γ (\frac{m}{2}) = Γ (k - \frac{1}{2}) = (k - \frac{3}{2}) (k - \frac{5}{2}) \dots \frac{3}{2} \frac{1}{2} \sqrt{π} \end{array}

ところで、つぎの式はウォリスの公式と呼ばれるものである。

\prod_{k = 1}^{\infty} \frac{{(2 k)}^{2}}{(2 k - 1) (2 k + 1)} = lim_{k \to \infty} \frac{2 \cdot 2}{1 \cdot 3} \cdot \frac{4 \cdot 4}{3 \cdot 5} \cdot \dots \cdot \frac{2 k \cdot 2 k}{(2 k - 1) \cdot (2 k + 1)} = \frac{π}{2}

この公式を少し書き換えるとつぎのようになる。

lim_{k \to \infty} \frac{1}{2 k + 1} \cdot {(\frac{2}{1} \cdot \frac{4}{3} \cdot \frac{6}{5} \cdot \dots \cdot \frac{2 k}{2 k - 1})}^{2} = \frac{π}{2}

つまり、以下の関係がなりたつことをいっている。

lim_{k \to \infty} \frac{1}{\sqrt{2 k + 1}} \cdot (\frac{2}{1} \cdot \frac{4}{3} \cdot \frac{6}{5} \cdot \dots \cdot \frac{2 k}{2 k - 1}) = \sqrt{\frac{π}{2}}

ここで新しい関数 $g (k)$ をつぎのように定義する。

g (k) = \frac{1}{\sqrt{2 k + 1}} \cdot (\frac{2}{1} \cdot \frac{4}{3} \cdot \frac{6}{5} \cdot \dots \cdot \frac{2 k}{2 k - 1}), lim_{k \to \infty} g (k) = \sqrt{\frac{π}{2}}

$m = 2 k$ のとき

lim_{m \to \infty} \frac{Γ (\frac{m + 1}{2})}{\sqrt{π m} Γ (\frac{m}{2})} = lim_{k \to \infty} \frac{1}{\sqrt{π \cdot 2 k}} \cdot 1 \cdot \frac{3 \cdot 5 \cdot \dots \cdot (2 k - 1)}{2 \cdot 4 \cdot \dots \cdot (2 k - 2)} \sqrt{π} = \frac{1}{\sqrt{π}} lim_{k \to \infty} \frac{2 k}{\sqrt{(2 k + 1) \cdot 2 k}} \cdot \frac{1}{2} \frac{\sqrt{π}}{g (k)} = \frac{1}{\sqrt{2 π}}

$m = 2 k - 1$ のとき

lim_{m \to \infty} \frac{Γ (\frac{m + 1}{2})}{\sqrt{π m} Γ (\frac{m}{2})} = lim_{k \to \infty} \frac{1}{\sqrt{π \cdot (2 k - 1)}} \cdot 1 \cdot \frac{2 \cdot 4 \cdot \dots \cdot (2 k - 2)}{3 \cdot 5 \cdot \dots \cdot (2 k - 3)} \frac{1}{\sqrt{π}} = \frac{1}{\sqrt{π}} lim_{k \to \infty} \frac{\sqrt{2 k - 1}}{\sqrt{2 k - 1}} \cdot \frac{1}{\sqrt{π}} \cdot g (k - 1) = \frac{1}{\sqrt{2 π}}

こうして、t-分布の確率密度関数は自由度を増やせば、正規分布の確率密度関数に限りなく近づくことが確かめられた。

lim_{m \to \infty} \frac{Γ (\frac{m + 1}{2})}{\sqrt{m π} Γ (\frac{m}{2})} {(1 + \frac{t^{2}}{m})}^{- \frac{m + 1}{2}} = \frac{1}{\sqrt{2 π}} e^{- t^{2} / 2}

4.2. ウォリスの公式

ウォリスの公式の証明は、多様な方法で証明できる。ここでは、正弦関数の無限乗積表現を使って証明する。

ウォリスの公式

\prod_{k = 1}^{\infty} \frac{{(2 k)}^{2}}{(2 k - 1) (2 k + 1)} = lim_{k \to \infty} \frac{2 \cdot 2}{1 \cdot 3} \cdot \frac{4 \cdot 4}{3 \cdot 5} \cdot \dots \cdot \frac{2 k \cdot 2 k}{(2 k - 1) \cdot (2 k + 1)} = \frac{π}{2}

[証明]

正弦関数はつぎのように無限級数に展開される（テイラー展開）。

sin x = \sum_{k = 1}^{\infty} \frac{{(- 1)}^{k - 1}}{(2 k - 1)!} x^{2 k - 1}

ところがこれは、無限乗積に因数分解できる（注）。

sin x = x \prod_{k = 1}^{\infty} (1 - \frac{x^{2}}{k^{2} π^{2}})

ここに $x = π / 2$ を代入するとつぎのようになる。

1 = \frac{π}{2} \prod_{k = 1}^{\infty} (1 - \frac{1}{4 k^{2}})

書き直すと、つぎのようにウォリスの公式が求められる。

\prod_{k = 1}^{\infty} \frac{{(2 k)}^{2}}{(2 k - 1) (2 k + 1)} = \frac{π}{2}

（注）：: 自然科学者のための数学概論 [改訂版]、寺澤寛一著、岩波書店、p.207

統計解析学の代表的関数

0. 正規分布

0.1. 定義

1. カイ二乗分布

1.1. 定義

1.2.カイ二乗（ χ2 ）分布の確率密度関数

1.2.1. 自由度 1 のカイ二乗分布

1.2.2. 自由度 2 のカイ二乗分布

1.2.3. 一般の自由度のカイ二乗分布

[証明]

1.2.4. カイ二乗分布の再生性

2. t-分布

2.1. 定義

2.2. t-分布の確率密度関数

3. F分布

3.1. 定義

3.2. F 分布の確率密度関数

4. 補足

4.1. t -分布の極限が正規分布に収束すること

m = 2⁢k のとき

m = 2⁢k-1 のとき

4.2. ウォリスの公式

ウォリスの公式

[証明]

1.2.カイ二乗（ $χ^{2}$ ）分布の確率密度関数

1.2.1. 自由度 $1$ のカイ二乗分布

1.2.2. 自由度 $2$ のカイ二乗分布

3.2. $F$ 分布の確率密度関数

4.1. $t$ -分布の極限が正規分布に収束すること

$m = 2 k$ のとき

$m = 2 k - 1$ のとき