【統計学】標本平均が母平均の不偏推定量、不偏分散が母分散の不偏推定量であることの証明をわかりやすく解説！

母平均を \(μ\) 、母分散を \(σ^2\) とする同一の母集団から得られる、確率変数 \(X_1\) , … , \(X_n\) は互いに独立であるといえる。よって、\(i = 1,\cdots, n\) とすると以下を満たす。

$$\small{E[ X_i ] = μ}$$

$$\small{V[X_i]= E [(X_i - μ)^2] = σ^2}$$

次に、これらの不偏分散 \( u^2\) の期待値を計算すると、

\[\scriptsize
\begin{align}
E[\,u^2 ] &= E\left[ \frac{1}{n-1}\sum_{ i = 1 }^{ n }(X_i - \overline{X})^2\right ]\\
&= \frac{1}{n-1}\,E\left[ \sum_{ i = 1 }^{ n } \{ (X_i - μ) - (\overline{X} - μ)\}^2 \right ]\\
&= \frac{1}{n-1}\,E\left[ \sum_{ i = 1 }^{ n } \{ (X_i - μ)^2 - 2(X_i - μ)(\overline{X} - μ) + (X_i - μ)^2 \} \right ]\\
&= \frac{1}{n-1}\,E\left[ \sum_{ i = 1 }^{ n } (X_i - μ)^2 - 2(\overline{X} - μ)\sum_{ i = 1 }^{ n }(X_i - μ)+ (X_i - μ)^2\sum_{ i = 1 }^{ n } 1 \} \right ]\\
&= \frac{1}{n-1}\,E\left[ \sum_{ i = 1 }^{ n } (X_i - μ)^2 - n(\overline{X} - μ)^2 \right ]\\
&= \frac{1}{n-1}\,\left\{E\left[ \sum_{ i = 1 }^{ n } (X_i - μ)^2\right] - nE[(\overline{X} - μ)^2]\right\}\\
&=①
\end{align}
\]

上から4行目に関して、第2項、第3項は以下のことに注意して計算した。
$$\small{\sum_{ i = 1 }^{ n }(X_i - μ) = n\overline{X} - nμ}\,,\quad \sum_{ i = 1 }^{ n } 1 = n$$

【①の第１項目に関して】
\[\scriptsize
\begin{align}
E\left[ \sum_{ i = 1 }^{ n } (X_i - μ)^2 \right ] &= E\left[(X_1 - μ)^2 +\cdots+ (X_n - μ)^2\right ]\\
&= E\left[(X_1 - μ)^2\right]+\cdots+ E\left[(X_n - μ)^2\right ]\\
&= \sum_{ i = 1 }^{ n } E\left[(X_i - μ)^2 \right ]\\
&= \sum_{ i = 1 }^{ n } σ^2\\
&= nσ^2\\
&=②
\end{align}
\]

上から3行目に関して、分散の定義式 \(\small{V[X_i]= E [(X_i - μ)^2] = σ^2}\) を用いた。

【①の第２項目に関して】
確率変数 \(X\) と母平均 \(μ\) の偏差の２乗は、確率変数 \(X\) の分散を意味する。よって、標本平均 \(\overline{X}\) と母平均の偏差の2乗は、標本平均 \(\overline{X}\) の分散を意味するといえるので、
\[\small
\begin{align}
E[(\overline{X} - μ)^2] &= V[\overline{X}]\\
&= V\left[\frac{1}{n}(X_1 + \cdots + X_n)\right ]\\
&= \frac{1}{n^2}\left\{V[X_1] + \cdots + V[X_n]\right\}\\
&= \frac{1}{n^2}\left\{σ^2 + \cdots + σ^2\right\}\\
&= \frac{1}{n^2}\,nσ^2\\
&= \frac{σ^2}{n}\\
&=③
\end{align}
\]

２行目から３行目への変形は、確率変数 \( X_1 , \cdots , X_n\) が互いに独立であることから成立する。以上から、②③を①へ代入すると、

$$\small{E[\,u^2 ] = \frac{1}{n-1}( nσ^2 - n\cdot \frac{σ^2}{n})=σ^2}$$

よって、\(E[ \,u^2 ] = σ^2\) であることから、不偏分散 \(u^2\) は母分散 \(σ^2\) の不偏推定量であることが示された。