普通の分散ではない不偏分散
数式的にn-1で割るのが通常の分散との違いでしょうが、なんで「n-1」で割るのか?
n-2で割らないのはなぜか?
そこんとこ調べています。
一言でいうと
不偏分散とは、一言でいうと、
「手元のデータ(標本)から、母集団全体の分散を偏りなく推測するために計算する分散」
のことです。
手元のデータから求めた平均を使ってそのまま分散を計算すると、母集団の分散よりも小さめに計算されてしまう性質があります。
そのズレを補正するために、n ではなく n-1 で割って求めます。
ここでいう「偏りなく」というのは、何回計算しても必ず母分散と同じ値になるという意味ではありません。
同じ条件で標本抽出を何度も繰り返したとき、不偏分散の期待値が母分散と一致するという意味です。
「標本分散」と「不偏分散」の違い
標本データからバラつきを計算するとき、代表的なものとして「標本分散」と「不偏分散」があります。
| 項目 | 標本分散 | 不偏分散 |
|---|---|---|
| 目的 | 手元にある標本データそのもののバラつきを表す | 標本から母集団の分散を推測する |
| 割り算の分母 | データの個数 n | 自由度 n-1 |
| 計算式 | \frac{1}{n} \sum_{i=1}^{n} (x_i - \bar{x})^2 | \frac{1}{n-1} \sum_{i=1}^{n} (x_i - \bar{x})^2 |
| 特徴 | 母分散に対して平均的に小さくなる | その期待値が母分散と一致する(不偏性を持つ) |
ここで少し注意が必要です。
「標本分散=間違い」「不偏分散=正しい」というわけではありません。
手元にあるデータそのもののバラつきを記述したいのであれば、n で割る標本分散も意味があります。
一方、手元の標本から、まだ見えていない母集団の分散を推定したい場合には、不偏分散が重要になります。
なぜ「n-1」で割るのか?(直感的な理由)
「なぜ n ではなく n-1 で割るのか」について、数学的な証明ではなく直感的なイメージで説明します。
1. 「母平均」ではなく「標本平均」を使っているから
分散の計算には「平均値からのズレ(偏差)」を使います。
本来なら「母集団全体の本当の平均(母平均 \mu)」とのズレを計算したいのですが、私たちは母平均を知りません。
そこで、代わりに手元のデータから計算した「標本平均 \bar{x}」を使います。
標本平均は「手元データの中心」になるように計算された値なので、各データは母平均ではなく、標本平均の近くに集まって見えてしまいます。
その結果、標本平均を使ってそのまま分散(n で割る)を計算すると、平均的には母分散よりも小さくなってしまうのです。
2. 分母を小さくして分散の数値を大きく補正する
小さめに計算されてしまうなら、計算結果を少し大きく補正してあげる必要があります。
分数では、分母を小さくすると全体の値は大きくなります。
そのため、分母を n から n-1 に変えることで、小さめに出てしまう数値を補正しています。
ただし、「ちょっと小さくする」というだけで n-1 が決まったわけではありません。
数学的に計算すると、n-1 で割ったときに、母分散に対する偏りがちょうどなくなることが分かります。
3. 自由度(Freedom)が1つ減るから
専門的には「自由度」という考え方で説明されます。
n 個のデータがあっても、「標本平均 \bar{x}」を使って偏差を計算すると、偏差には次のような関係があります。
\sum_{i=1}^{n}(x_i-\bar{x})=0つまり、n 個の偏差を自由に決められるわけではありません。
n-1 個の偏差が決まれば、最後の1つは合計が0になるように自動的に決まってしまいます。
(例:合計が30になる3つの数字を選ぶとき、2つを「10」「12」と決めると、最後の1つは強制的に「8」に決まり自由に選べません。自由に決められるのは 3 - 1 = 2 個だけです。)
このように、標本平均を1つ推定することで自由度が1つ減るため、n-1 という数字が登場します。
なぜ「n-2」ではなく「n-1」で割るのか?
「分母を小さくして補正するなら、n-2 や n-3 で割っても良いのでは」と思われるかもしれません。
ここが「ただ分母を小さくすればいいわけではない」というポイントです。
n-2 で割ると、確かに計算結果は n-1 で割る場合より大きくなります。
しかし、通常の不偏分散で必要としている補正量を超えてしまうため、母分散に対して平均的に大きくなるという偏りが生じます。
数学的に解説すると、n 個の標本から計算した「n で割る標本分散」の期待値は、母分散 \sigma^2 に対して以下のような関係になっています。
E\left[\frac{1}{n}\sum_{i=1}^{n}(X_i-\bar{X})^2\right] = \frac{n-1}{n}\sigma^2つまり、n で割る標本分散は、平均的には母分散の \frac{n-1}{n} 倍になっています。
この「\frac{n-1}{n}」を元に戻して、期待値を母分散 \sigma^2 と一致させるには、その逆数である \frac{n}{n-1} を掛ければよいことになります。
\left(\frac{1}{n}\sum_{i=1}^{n}(x_i-\bar{x})^2\right)\times\frac{n}{n-1}=\frac{1}{n-1}\sum_{i=1}^{n}(x_i-\bar{x})^2このように計算すると、きれいに n が約分されて、分母に n-1 が残ります。
つまり、「小さめだから、とりあえず n-1 にした」のではなく、母分散に対する偏りをちょうどゼロにする補正を行った結果が n-1 なのです。
もし分母を n-2 にすると、この補正量を超えてしまうため、今度は母分散より大きくなる方向に偏ります。
ちなみに、回帰分析で回帰係数などを推定する際の残差分散では、切片と傾きなど2つのパラメータを推定するため、自由度が n-2 となる場面があります。
これは「不偏分散では n-2 が絶対に使えない」という話ではなく、推定したパラメータの数に応じて自由度が変わるということです。
不偏分散と「標準偏差」の関係
不偏分散 s^2 の平方根をとると、
s=\sqrt{s^2}=\sqrt{\frac{1}{n-1}\sum_{i=1}^{n}(x_i-\bar{x})^2}となります。
これは標本のバラつきを元のデータと同じ単位で表すための標本標準偏差として使われます。
例えば、データの単位が \mathrm{cm} なら、分散の単位は \mathrm{cm}^2 になりますが、標準偏差にすると \mathrm{cm} に戻ります。
ここで少し注意が必要です。
不偏分散の平方根を取ったからといって、それが母標準偏差の「不偏推定量」になるわけではありません。
つまり、「不偏分散」と「不偏標準偏差」は同じ意味ではありません。
統計検定では、この違いもひっかけとして出てくる可能性があるので注意しておきたいところです。
📚 勉強するならまずは公式テキストから!私は下記を使用しています!
練習問題
理解度を確認するための4択問題です。不偏分散の性質について考えてみましょう。
【問題】
ある工場で製造された製品からランダムに5個(n = 5)を抽出し、重さを測定したところ、標本平均からの偏差の自乗和(\sum(x_i-\bar{x})^2)が 40 でした。
このとき、母分散の不偏推定値となる「不偏分散」の値として正しいものを1つ選んでください。
① 8
② 10
③ 13.3
④ 40
解答・解説
正解:②
解説
不偏分散は、偏差の自乗和(\sum (x_i-\bar{x})^2)を n-1 で割って計算します。
今回のデータ:
・偏差自乗和 = 40
・サンプルサイズ n = 5
不偏分散 s^2 = \frac{40}{5-1} = \frac{40}{4} = 10
(※もし n = 5 で割ってしまうと \frac{40}{5}=8 となり、標本分散になります。)
まとめ
今回は「不偏分散」について解説しました。
- 不偏分散は「標本から母集団全体の分散(母分散)を偏りなく推測するための分散」
- 標本平均を使うとデータが平均の近くに集まるため、n で割る標本分散は平均的に母分散より小さくなる
- その偏りを補正するために、分母を n-1(自由度)にして割る
- n-2 で割ると補正量が変わり、通常の不偏分散としては母分散に対して偏りが生じる
- 回帰分析などでは、推定するパラメータの数に応じて自由度が変わり、n-2 で割る場面もある
- 不偏分散の平方根は標本標準偏差であり、一般には「不偏標準偏差」ではない
「n-1 で割るのは小さめに計算される分を補正するため」というイメージを持っておくと、統計学の式がグッと身近になります。
さらに一歩踏み込むと、「なぜ標本平均を使うと自由度が1つ減るのか?」というところが、不偏分散を理解するポイントになりそうです。
参考 関連用語
| 用語 | 簡易的な説明 |
|---|---|
| 不偏分散 | 標本データから母分散を推定するための分散。n-1 で割り、その期待値が母分散と一致する。 |
| 標本分散 | 標本データの偏差平方和を n で割った分散。母分散の推定に使う場合、一般に母分散に対して下向きの偏りを持つ。 |
| 母分散 | 母集団全体のデータにおける分散。\sigma^2 で表されることが多い。 |
| 不偏性 | 推定量の期待値が、推定したい母数の真の値と一致する性質。 |
| 自由度 | 統計量の計算において、自由に変化させることができる独立な情報の数。標本平均を使って偏差を計算する場合、通常は n-1 となる。 |
| 標本平均 | 抽出したデータ(標本)の平均値 \bar{x}。母平均 \mu の推定値として使われる。 |
| 母平均 | 母集団全体の平均値。\mu で表されることが多い。 |
| 標本標準偏差 | 標本のバラつきを元のデータと同じ単位で表す指標。不偏分散の平方根として計算されることが多い。 |
| 母標準偏差 | 母分散 \sigma^2 の正の平方根である標準偏差 \sigma。 |
| 偏差平方和 | 各データと標本平均との差を2乗して合計したもの。\sum_{i=1}^{n}(x_i-\bar{x})^2。 |
| 母数(パラメータ) | 母集団の特徴を表す値。母平均 \mu や母分散 \sigma^2 など。 |
| 推定量 | 標本データから母数を推定するために計算する統計量。不偏分散も母分散の推定量の一つ。 |
| 一致性 | 標本サイズを大きくしていくと、推定量が推定したい母数に近づいていく性質。 |

コメント