統計検定２級を受けようと思っていたのですがブログ始めたりでちょっと延期していました。
勉強を再開するにあたり、せっかくなのでブログに勉強の記録ついでに調べたことを記事にすればよいなと思い書いています。
というわけで忘れかけているのでｗ
基礎的なことから勉強を再開します。
確率分布とは？
統計の勉強をすると必ず遭遇する確率分布。
正規分布やポアソン分布とかはよく聞いて計算問題なんかもしますが、確率分布自体をじっくり考えたことはありません。
というわけで確率分布から見ていきたいと思いました。
一言でいうと
確率分布とは、
確率変数がどのような値を取り、それぞれの値や範囲にどのくらいの確率が対応するのかを表したもの
です。
ここで「確率変数」という言葉が出てきました。
確率変数とは、簡単にいうと、偶然によって値が決まる変数のことです。
例えば、
- サイコロを振ったときの出目
- コインを何回か投げたときの表の回数
- ランダムに選んだ人の身長
- ある時間内に発生する問い合わせの件数
などです。
例えば、サイコロを1回振って出た目を とすると、
X \in {1,2,3,4,5,6}となります。
そして、それぞれの値を取る確率は、
P(X=1)=P(X=2)=\cdots=P(X=6)=\frac{1}{6}です。
このような「確率変数Xがどの値を取るのか」と「その値を取る確率」の対応関係が、確率分布です。
よく見かける確率分布はグラフで表されたものが多いと思います。
しかし確率分布は、確率変数のそれぞれの値と、その確率との対応関係を表したものです。
つまるところ、別にグラフじゃなくてもよいわけです。
表でも数式でも表すことができます。
どんなものがある？
では実際どんな見た目のものがあるのか。
AIにグラフを書かせてみましたが、こんな感じです（雑で申し訳ないです）。
確率分布の代表的な2つのグラフ構造
1. 連続型確率分布（例：正規分布）
身長・時間など（連続する値）
- 横軸：値
- 縦軸：確率密度
- 平均：
この「面積」が確率を表します。
1点の確率そのものをグラフの高さで表しているわけではありません。
連続型確率分布では、ある一点 について、P(X=x)=0となります。
そのため、例えば から の範囲に入る確率は、確率密度関数 のグラフと横軸に囲まれた面積で表します。
P(a\leq X\leq b)=\int_a^b f(x),dxつまり、
範囲を指定した「面積」で確率を計算する
ということです。
2. 離散型確率分布（例：サイコロの目）
回数・個数など（飛び飛びの値）
- 横軸：値
- 縦軸：確率
例えばサイコロなら、
x=1,2,3,4,5,6のそれぞれに確率が割り当てられます。
この場合は、棒の「高さ」がそのまま確率を表します。
例えば公平なサイコロなら、
P(X=x)=\frac{1}{6}です。
そして、すべての値について確率を足し合わせると、
\sum_x P(X=x)=1となります。
グラフ以外ではどうでしょう？
表形式だと下記になります。
コインを2枚投げて、出る「表の回数」の確率分布です。
| 表が出る回数 | 起こりうるパターン | 確率 |
|---|---|---|
| 0回 | （裏、裏） | 0.25（25%） |
| 1回 | （表、裏）、（裏、表） | 0.50（50%） |
| 2回 | （表、表） | 0.25（25%） |
| 合計 | ― | 1.00（100%） |
こんな感じで、確率分布は確率変数の値と、それに対応する確率がわかるものを指すのです。
もちろん下記のような数式で表すこともできます。
例えば標準正規分布なら、
f(x)=\frac{1}{\sqrt{2\pi}}e^{-\frac{x^2}{2}}となります。
一般的な正規分布 なら、
f(x)=\frac{1}{\sigma\sqrt{2\pi}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}です。
このように、
- グラフ
- 表
- 数式
など、いろいろな形で確率分布を表現できます。
よくグラフで見かける理由は？
下記が理由としては一番大きいかと思います。
人間の脳が理解しやすいから！
確かにそういわれてみればそうです。
まず直観的にわかりやすいので、グラフでパっと見れば、
「このあたりの値が多そうだな」
「この範囲に入る確率が高そうだな」
といったことを理解しやすくなります。
もちろん、連続型確率分布は取りうる値が非常に多いため、表形式ですべてを表すのが難しいというのもあるのではないかと思います。
特に正規分布のような連続型確率分布では、グラフの面積と確率を結びつけて考えられるので、視覚的にも理解しやすいわけですね。
定義やルールは？
次に確率分布の数学上の定義やルールを見ていきます。
3つの基本的なルール
まず、確率には基本的なルールがあります。
1. すべての確率は0以上1以下
確率は、
0\leq P(A)\leq1を満たします。
つまり、どんな事象の確率であっても、マイナスになったり1（100%）を超えたりすることはありません。
2. すべての可能性を合わせると1になる
確率変数が取りうるすべての値について、それぞれの確率を合わせると1になります。
離散型なら、
\sum_x P(X=x)=1となります。
連続型なら、
\int_{-\infty}^{\infty}f(x),dx=1となります。
つまり、全体を合わせると100%になるということです。
3. 互いに同時に起きない事象の確率は足し算できる
例えば、サイコロで、
「1が出る確率」と「2が出る確率」
を考えてみます。
「1」と「2」は同時に出ることがないので、
P(X=1\text{ または }X=2) =P(X=1)+P(X=2)となります。
公平なサイコロなら、
=\frac16+\frac16=\frac26=\frac13です。
これは確率分布そのものの定義というより、確率を扱ううえでの基本的なルールです。
3つの重要な構成要素
確率分布を理解するうえで、まず押さえておきたいものがあります。
1. 確率変数 X
偶然によって値が決まる変数です。
例えば、
- サイコロの出目
- コインの表の回数
- 明日の気温
- 1時間に発生する問い合わせ件数
などです。
2. 実現値・取りうる値 x
確率変数 が実際に取りうる具体的な値です。
例えばサイコロなら、
x\in{1,2,3,4,5,6}となります。
ここは少し混乱しやすいところですが、
X は確率変数、 x はその確率変数が取りうる具体的な値
と考えるとわかりやすいです。
3. 確率分布を表す関数
実現値 に対して、それに対応する確率や確率密度を返すルールです。
離散型では、P(X=x)という形で、その値を取る確率を表します。
連続型では、f(x)という確率密度関数を使います。
ここで重要なのは、
連続型のf(x) は「確率」そのものではなく「確率密度」である
という点です。
この違いは、統計検定でも重要になってきそうです。
2つの種類
確率分布には、大きく分けると離散型確率分布と連続型確率分布があります。
1. 離散型確率分布
確率質量関数（PMF）
値が飛び飛びになっているタイプです。
例えば、
- サイコロの出目
- コインの表の回数
- 1時間に届くメールの件数
- 不良品の個数
などです。
確率質量関数は、
P(X=x_i)=p_iのように表せます。
満たすべき条件は、
0\leq p_i\leq1そして、
\sum_i p_i=1です。
つまり、すべての値について確率を足し合わせると1になります。
例えばサイコロなら、
\frac16+\frac16+\frac16+\frac16+\frac16+\frac16=1です。
2. 連続型確率分布
確率密度関数（PDF）
身長や時間、重量などのように、連続的な値を取るタイプです。
連続型確率分布では、特定の一点 の確率は0になります。
P(X=x)=0そのため、「ある範囲に入る確率」を考えます。
例えば、
a\leq X\leq bに収まる確率は、
P(a\leq X\leq b)=\int_a^b f(x),dxとなります。
つまり、確率密度関数のグラフの面積が確率になるということです。
満たすべき条件は、
f(x)\geq0そして、
\int_{-\infty}^{\infty}f(x),dx=1です。
全範囲で積分したときの面積が1になります。
練習問題
さて練習問題のコーナーです。計算問題は推定や検定に譲るとして、抽象的な概念は4択が多そうなので、4択でAIに作成。チェックしてもらいました。
問題
確率分布の性質および特徴に関する記述として、最も適切なものを次の①〜④の中から1つ選んでください。
①ポアソン分布は、試行回数 が非常に大きく、発生確率 が非常に小さい場合の二項分布の極限として導出され、平均と分散が等しくなる特徴を持つ。
②連続型確率分布の確率密度関数を とするとき、任意の1点 における確率 は、その点での関数の高さ に等しい。
③正規分布 に従う確率変数 に対し、平均 からの距離が標準偏差 の2倍以内
\mu-2\sigma\leq X\leq\mu+2\sigmaに収まる確率は、約99.7%である。
④離散型確率分布において、すべての確率質量 を全領域で足し合わせた合計値は、定義する分布の形状によって0から1の間のさまざまな値をとる。
解答・解説
正解：①
① 正しい
ポアソン分布は、一定の時間や空間などの範囲において、ある事象が何回発生するかを表す離散型確率分布です。
二項分布 において、
n\to\infty p\to0としながら、
\lambda=npを一定に保つ極限を考えると、ポアソン分布が得られます。
また、ポアソン分布では、
E(X)=\lambda \mathrm{Var}(X)=\lambdaとなり、平均と分散が等しいという重要な特徴があります。
そのため①が正解です。
② 誤り
連続型確率分布では、特定の1点における確率は、
P(X=a)=0となります。
一方、
f(a)は、その点における確率密度です。
確率密度の高さそのものが確率というわけではありません。
確率は、ある範囲について確率密度を積分した面積で求めます。
P(a\leq X\leq b)=\int_a^b f(x),dxこの「確率」と「確率密度」の違いは、連続型確率分布を理解するときの重要なポイントです。
③ 誤り
正規分布では、平均から何個分の標準偏差の範囲に入るかによって、おおよその確率が決まります。
代表的なものが、
- ：約68%
- ：約95%
- ：約99.7%
です。
より正確には、
P(\mu-\sigma\leq X\leq\mu+\sigma)\approx68.27% P(\mu-2\sigma\leq X\leq\mu+2\sigma)\approx95.45% P(\mu-3\sigma\leq X\leq\mu+3\sigma)\approx99.73%となります。
したがって、記述の「約99.7%」は ではなく、 に対応します。
よって③は誤りです。
④ 誤り
離散型確率分布では、確率質量をすべて足し合わせると必ず1になります。
\sum_iP(X=x_i)=1これは確率分布として成立するための基本的な条件です。
したがって、0から1の間の好きな値を取るわけではありません。
よって④は誤りです。
まとめ
今回は、そもそも確率分布とは何なのかというところから見てみました。
個人的には、
「確率分布＝グラフ」ではない
というところが気になってたので調べてみました。
確率分布は、
確率変数がどのような値を取り、それぞれの値や範囲にどのような確率が対応するのかを表したもの
と考えればよさそうです。
そして、その表現方法として、
- 表
- 数式
- グラフ
などがあるわけですね。
さらに、確率変数には、
- 離散型
- 連続型
があり、
離散型では確率質量関数（PMF）、
連続型では確率密度関数（PDF）
を使って確率分布を表します。
ここまで整理すると、今まで何となく見ていた正規分布やポアソン分布も、少し違って見えてきます。
統計検定2級の勉強としても、このあたりはしっかり押さえておきたいところですね。
参考 関連用語
| 用語 | 簡易的な説明 |
|---|---|
| 確率 | ある事象が起こる可能性を0〜1で表したもの |
| 確率変数 | 偶然によって値が決まる変数 |
| 実現値 | 確率変数が実際に取った値 |
| 確率分布 | 確率変数の値と、それに対応する確率の関係 |
| 離散型確率分布 | 飛び飛びの値を取る確率変数の分布 |
| 連続型確率分布 | 連続した値を取る確率変数の分布 |
| 確率質量関数（PMF） | 離散型確率変数がそれぞれの値を取る確率を表す関数 |
| 確率密度関数（PDF） | 連続型確率変数の確率密度を表す関数 |
| 累積分布関数（CDF） | がある値以下になる確率を表す関数 |
| 期待値（平均） | 確率分布における値の中心的な位置を表す指標 |
| 分散 | 確率変数の値が平均からどの程度ばらついているかを表す指標 |
| 標準偏差 | 分散の平方根。ばらつきの大きさを表す指標 |
| 正規分布 | 平均を中心に左右対称の釣鐘型をした代表的な連続型確率分布 |
| 標準正規分布 | 平均0、標準偏差1の正規分布 |
| 二項分布 | 成功・失敗の2通りの結果を持つ独立試行を一定回数行ったときの成功回数を表す分布 |
| ポアソン分布 | 一定の時間・空間などで、ある事象が何回発生するかを表す分布 |
| 標準化（zスコア） | 平均から何標準偏差離れているかを表す値 |
| 支持集合（support） | 確率変数が取りうる値の集合 |
| 確率密度 | 連続型確率分布において、確率の分布の濃さを表す量。高さそのものが確率ではない |
| 累積分布関数（CDF） | で定義され、ある値以下になる確率を表す |
| 期待値 E(X) | 確率変数を確率で重み付けして平均した値 |
| 分散 V(X) | 確率変数のばらつきを表す指標 |
| 標準偏差 σ\sigma | 分散の平方根で、元のデータと同じ単位でばらつきを表す |
| 68-95-99.7ルール | 正規分布で平均から1・2・3標準偏差以内に入る確率がおよそ68%、95%、99.7%となる経験則 |
コメント