【統計検定2級】不偏性｜ざっくりバイアスがないことである

ポイントと理解

ポイント

  • 推測統計で使用する
  • 平均に似たような性質
  • あくまでも推測なので、実際の値ではない
  • 標本平均、不偏分散が該当する
  • バイアスで覚えておくと理解しやすい

理解

平均からのズレが少ないという性質です。
よく使う言葉でバイアスがないってことですね。

偏りがないということはサンプリングの仕方があっている、あるいは、回数が多いので、推測統計としては良い傾向。しかし、この限りではないので、ほかの性質も見ながら評価していくことになりそうです。

一言でいうと

不偏性とは、一言でいうと、

「何度も標本を取り直して推定を行ったとき、平均的に見れば真の値からズレていないという性質」

のことです。

手元の標本から得られる推定値が「いつも高めに出る」「いつも低めに出る」といった系統的な偏りを持たず、理論上の平均値（期待値）が推測したい母集団の真の値（母数）に一致することを意味します。

不偏性の数学的定義

推測したい母集団の真の値を \theta（母数）、標本データから計算する推定量を \hat{\theta} とするとき、不偏性は以下の数式で表されます。

E[\hat{\theta}] = \theta
  • \hat{\theta}（シータハット）：母数 \theta を推測するための推定量
  • E[\hat{\theta}]：推定量の期待値
  • \theta（シータ）：推定したい母数

この式が成り立つとき、推定量 \hat{\theta} は「母数 \theta の不偏推定量」であると言います。

不偏性と「バイアス（偏り）」の関係

不偏性を理解するには、「バイアス（Bias）」という言葉を知っておくと分かりやすくなります。

推定量 \hat{\theta} のバイアスは、次の式で定義されます。

\operatorname{Bias}(\hat{\theta}) = E[\hat{\theta}] - \theta

つまり、「推定量の期待値が真の母数からどれだけズレているか」を表したものです。

したがって、

  • バイアスが0 → 不偏性を持つ
  • バイアスが0ではない → 偏りのある推定量

という関係になります。

例えば、ある母数の真の値が100で、ある推定量の期待値が105だった場合、その推定量のバイアスは5です。

\operatorname{Bias}(\hat{\theta}) = 105 - 100 = 5

この場合、平均的に5だけ高く推定しているため、不偏性はありません。

「不偏性」を持つ代表的な推定量

統計学でよく使われる代表的な推定量について、不偏性の有無を比較してみます。

推定対象（母数）推定量不偏性の有無期待値の関係
母平均 \mu標本平均 \bar{X}ありE[\bar{X}] = \mu
母分散 \sigma^2標本分散 S^2（分母 n）なし（偏りあり）E[S^2] = \frac{n-1}{n}\sigma^2
不偏分散 s^2（分母 n-1）ありE[s^2] = \sigma^2

標本分散 S^2 は分母が n のままだと期待値が小さく偏ってしまうため、不偏性を持ちません。そのため、分母を n-1 に補正したものが「不偏分散」です。

不偏性と「一致性・有効性」の違い

良い推定量であるかを評価する際には、不偏性だけでなく一致性や有効性など、複数の観点から考える必要があります。

性質直感的なイメージ主な視点数式表現
不偏性
(Unbiasedness)		何度も標本を取り直すと、平均的に真の値と一致する期待値と真の母数の一致E[\hat{\theta}] = \theta
一致性
(Consistency)		データを増やすと、推定量が真の値に近づいていくn \to \infty における収束\hat{\theta}_n \xrightarrow{P} \theta
有効性
(Efficiency)		推定値のブレが小さい推定量の分散の大きさV[\hat{\theta}] の比較
漸近不偏性
(Asymptotic Unbiasedness)		データを増やすと、偏りが0に近づくn \to \infty におけるバイアス\lim_{n \to \infty} E[\hat{\theta}_n] = \theta

1. 不偏性と「一致性」の違い

「不偏性」は「推定量の期待値が真の値と等しいか」に注目します。

一方、「一致性」は「サンプルサイズを大きくしていったとき、推定量が確率的に真の値へ近づくか」という性質です。

そのため、両者は似ているようで評価しているポイントが異なります。

例えば、分母が n の標本分散 S^2 は母分散の不偏推定量ではありません。

E[S^2] = \frac{n-1}{n}\sigma^2

となるため、有限の n では不偏性を持ちません。

しかし、n を大きくすると、

\frac{n-1}{n} \to 1

となるため、標本分散 S^2 は母分散 \sigma^2 の一致推定量になります。

つまり、「不偏ではない＝一致しない」ではありません。

2. 不偏性と「有効性」の違い

不偏性は「平均的に偏りがない」という性質ですが、それだけで推定値のブレが小さいとは限りません。

例えば、2つの推定量がどちらも母数に対して不偏であったとしても、一方の推定量のほうが大きくブレる可能性があります。

そのため、推定量を比較するときには、不偏性だけでなく分散の大きさも重要になります。

同じ条件のもとで不偏推定量同士を比較し、分散がより小さい推定量を「より効率的」と評価する考え方があります。

3. 不偏性と「漸近不偏性」の違い

サンプルサイズ n が小さいときには偏りが存在していても、n を大きくしていくことで、その偏りが0に近づく場合があります。

このように、

\lim_{n \to \infty} E[\hat{\theta}_n] = \theta

となる性質を、一般に漸近的な不偏性と呼びます。

これは「有限の標本サイズでは完全な不偏性を持たないものの、標本サイズが十分大きくなると偏りが小さくなる」という考え方です。

不偏性は「推定量の良さ」を保証する万能な性質ではない

ここまで読むと、「不偏性を持つ推定量なら、必ず優れた推定量なのでは？」と思うかもしれません。

しかし、不偏性だけで推定量の良し悪しが決まるわけではありません。

不偏性が保証しているのは、あくまで「推定量を何度も繰り返し使ったとき、その期待値が真の母数と一致する」ということです。

例えば、ある不偏推定量の分散が非常に大きければ、1回の推定では真の値から大きく外れる可能性があります。

一方で、多少の偏りがあったとしても、分散が非常に小さい推定量のほうが、実際の推定では誤差が小さくなる場合があります。

このような「偏り」と「ばらつき」のバランスを考えるときに重要になるのが、次に登場する平均二乗誤差（MSE）です。

不偏性は非常に重要な性質ですが、推定量を評価するときにはバイアス・分散・一致性などを総合的に考える必要があります。

不偏性と「平均二乗誤差（MSE）」の関係

推定量の性能を評価する代表的な指標の1つに平均二乗誤差（Mean Squared Error：MSE）があります。

平均二乗誤差は、推定量が真の値からどれくらい離れているかを二乗して平均したものです。

\operatorname{MSE}(\hat{\theta}) = E[(\hat{\theta}-\theta)^2]

このMSEは、バイアスと分散を使って次のように分解できます。

\operatorname{MSE}(\hat{\theta}) = \operatorname{Var}(\hat{\theta}) + \operatorname{Bias}(\hat{\theta})^2

つまり、推定量の誤差は大きく分けると、

  • 分散：推定値そのもののブレ
  • バイアスの二乗：推定値の平均的なズレ

という2つの要素から考えることができます。

不偏推定量ではバイアスが0なので、

\operatorname{MSE}(\hat{\theta}) = \operatorname{Var}(\hat{\theta})

となります。

このため、不偏推定量同士を比較する場合には、分散の小ささが重要な評価基準になります。

練習問題

【問題】

「不偏性」の説明に関する次の記述のうち、最も適切なものを1つ選んでください。

① 標本サイズ n を無限大に大きくしたときに、推定量が真の値に確率的に近づく性質のこと。
② 1回の標本調査で得られた推定値が、誤差なく完璧に真の値と一致する性質のこと。
③ 推定量の期待値が、推定したい母集団の真の値（母数）に等しくなる性質のこと。
④ 推定量自体の分散が最も小さくなり、ばらつきが抑えられている性質のこと。

解答・解説

正解：③

解説
不偏性とは、推定量の期待値 E[\hat{\theta}] が真の母数 \theta と一致する、

E[\hat{\theta}] = \theta

という性質のことです。

  • ①：サンプルサイズを大きくしたときに真の値へ近づく性質は「一致性」の説明です。
  • ②：1回の推定値が真の値と完全に一致することを保証する性質ではありません。
  • ④：推定量のばらつきの小ささに関する性質であり、不偏性そのものの説明ではありません。

まとめ

今回は「不偏性」について解説しました。

  • 不偏性とは「推定量の期待値が真の母数に一致する性質」
  • 数学的には「E[\hat{\theta}] = \theta」と表現される
  • バイアスが0であることと、不偏性を持つことは同じ意味
  • 標本平均 \bar{X} は母平均 \mu の不偏推定量
  • 不偏分散 s^2 は母分散 \sigma^2 の不偏推定量
  • 不偏性と一致性は別の性質であり、不偏でなくても一致性を持つ推定量は存在する
  • 不偏性だけで推定量の良し悪しが決まるわけではなく、分散やMSEなども重要

「平均的に見れば真の値から偏っていない」という不偏性は、統計的推定を理解するうえで非常に重要な考え方です。

特に、標本平均や不偏分散がなぜ「不偏推定量」と呼ばれるのかを理解すると、これまで学んできた期待値や分散の知識もつながってきます。

参考 関連用語

用語簡易的な説明
バイアス（Bias・偏り）推定量の期待値と真の母数との差。\operatorname{Bias}(\hat{\theta}) = E[\hat{\theta}] - \theta。これが0のとき不偏性を持つ。
不偏推定量不偏性を満たす推定量のこと。
推定量標本データから母数を推定するために用いる確率変数や計算式のこと。
一致性（Consistency）サンプルサイズ n を大きくすると、推定量が真の値に確率的に近づく性質。
有効性（Efficiency）推定量のばらつきの小ささを比較する際に用いられる性質・概念。
平均二乗誤差（MSE）推定量と真の母数との差の二乗の期待値。\operatorname{MSE}(\hat{\theta}) = E[(\hat{\theta}-\theta)^2]。
不偏分散（s^2）母分散の不偏推定量となるように、分母を n-1 とした分散。
ガウス・マルコフの定理一定の条件のもとで、線形回帰モデルの最小二乗推定量が最良線形不偏推定量（BLUE）となることを示す定理。

コメント

タイトルとURLをコピーしました