AIや機械学習の学習を進める中で、データの背景にある確率モデルを推定する手法として「MAP推定(Maximum A Posteriori estimation:最大事後確率推定)」は非常に重要な概念です。
画像認識や自然言語処理などのディープラーニングモデルにおける正則化(L2正則化など)の理論的背景としても活用されており、E資格や統計学の試験でも頻出のテーマとなっています。
一言で言うと
MAP推定とは、「得られたデータ」と「事前の知識(事前確率)」の両方を考慮して、最も確かそうなパラメータの値を求める手法です。
観察されたデータだけに頼るのではなく、「パラメータの値はあらかじめこのような分布に従うだろう」という事前情報を組み合わせることで、データの少なさやノイズによる過学習(オーバーフィッティング)を防ぐことができます。
詳細
MAP推定は、ベイズの定理をベースにしてパラメータ \theta の事後確率 P(\theta | D) を最大化する手法です。
ここで、データ(観測値)を D、求めたいパラメータを \theta としたとき、ベイズの定理より事後確率は以下のように表されます。
P(\theta | D) = \frac{P(D | \theta) P(\theta)}{P(D)}
パラメータ \theta について最大化を行う際、分母の P(D) は \theta に依存しない定数とみなせるため無視できます。したがって、MAP推定の目的関数は次のようにシンプルに表現されます。
\hat{\theta}_{\text{MAP}} = \arg\max_{\theta} P(D | \theta) P(\theta)
すなわち、MAP推定は「尤度(データがそのパラメータのもとで発生する確率)P(D|\theta)」と「事前確率(パラメータに関する事前の知識)P(\theta)」の積を最大化する操作と言えます。
MLE(最大尤度推定)との違い
MAP推定を理解する上で避けて通れないのが、MLE(Maximum Likelihood Estimation:最大尤度推定)との違いです。
MLEは事前知識を考慮せず、単純に「手元にあるデータ D が最も発生しやすくなるパラメータ \theta」を推定します。
\hat{\theta}_{\text{MLE}} = \arg\max_{\theta} P(D | \theta)
もし事前確率 P(\theta) が一様分布(どのパラメータ値も等しく起こりやすいという事前情報)である場合、MAP推定の数式はMLEと完全に一致します。
正則化(L2正則化)との関係
機械学習において、モデルの過学習を抑えるために重みにペナルティを課す「正則化」が行われます。この正則化項は、MAP推定における「事前分布」の設定に対応しています。
例えば、重みパラメータ \theta の事前分布として平均0の正規分布(ガウス分布)を仮定し、対数事後確率を最大化すると、評価関数にL2正則化項(Ridge回帰のペナルティ)が現れます。
また、事前分布としてラプラス分布を仮定した場合はL1正則化項(Lasso回帰のペナルティ)に対応します。このように、MAP推定は機械学習における正則化の統計的基盤となっています。
資格勉強時のコツ
E資格などの試験対策としては、以下の3点を整理して覚えておくのが効率的です。
- 構成要素の整理: MAP推定は「尤度 \times 事前確率」の最大化であることを丸暗記する。
- MLEとの関係: 事前分布が一様分布のとき「MAP推定 = MLE」となる関係性を押さえる。
- 正則化との対応: ガウス分布の事前情報=L2正則化、ラプラス分布の事前情報=L1正則化という対応関係を紐づける。
例題
問題
MAP推定(最大事後確率推定)に関する以下の文章の( ア )〜( ウ )に入る最も適切な語句の組み合わせを選んでください。
MAP推定は、ベイズの定理を用いて( ア )確率を最大化するパラメータを求める手法です。これは、( イ )関数と事前確率の積を最大化することと同等です。もし事前分布として無情報な( ウ )分布を仮定した場合、MAP推定の結果は最大尤度推定(MLE)と一致します。
① ア:事前、イ:損失、ウ:正規
② ア:事後、イ:尤度、ウ:一様
③ ア:事後、イ:損失、ウ:二項
④ ア:事前、イ:尤度、ウ:一様
解答
正解:②
解説:
MAP推定は「事後(Posteriori)」確率を最大化する手法であり、その計算は「尤度関数 P(D|\theta)」と「事前確率 P(\theta)」の積に比例します。また、すべてのパラメータ範囲で一定の値をとる「一様分布」を事前分布に設定した場合、事前確率の影響が定数化するため、MLE(最大尤度推定)と一致します。
問題1
○×問題
【問題】
MAP推定では、データサイズ(サンプル数)が極めて大きくなると、事前分布の影響が相対的に小さくなり、推定値はMLE(最大尤度推定)の解に近づく。〇か×か。
解答
正解:〇
解説:
データ量(サンプル数)が非常に大きくなると、尤度 P(D|\theta) の影響が事前確率 P(\theta) の影響を圧倒するようになります。そのため、データが十分に存在する環境ではMAP推定値とMLE推定値はほぼ同じ値へと収束します。
問題2
計算問題
【問題】
コインの表が出る確率 \theta を推定します。コインを3回投げて3回とも表が出ました(データ D = \text{表3回})。
尤度関数が P(D|\theta) = \theta^3 で表され、パラメータ \theta の事前確率密度関数が P(\theta) = 2\theta \quad (0 \le \theta \le 1) であるとき、MAP推定値 \hat{\theta}_{\text{MAP}} を求めてください。
解答
正解:1.0(または 1)
解説:
MAP推定では P(D|\theta) P(\theta) を最大化する \theta を求めます。
対象の関数を f(\theta) とおくと、
f(\theta) = \theta^3 \times 2\theta = 2\theta^4
となります。0 \le \theta \le 1 の範囲において、2\theta^4 が最大となるのは \theta = 1 のときです。したがって、MAP推定値は \hat{\theta}_{\text{MAP}} = 1 となります。
問題3
ひっかけ問題
【問題】
MAP推定(最大事後確率推定)とベイズ推定に関する記述として、最も適切なものを1つ選んでください。
① MAP推定は事後確率分布全体(確率分布そのもの)を求める手法である。
② MAP推定は事後確率分布の「平均値(期待値)」を点推定値として出力する。
③ MAP推定は事後確率分布を「最大化する点(モード:最頻値)」を点推定値として出力する。
④ MAP推定とMLEはどちらも事前にパラメータの確率分布を完全指定する必要がある。
解答
正解:③
解説:
① 不正解。事後確率分布全体を求めるのは「完全なベイズ推定」です。MAP推定は分布の山の一番高い単一の点(点推定値)のみを求める手法です。
② 不正解。事後確率分布の平均値(期待値)を用いるのは「ベイズ推定における事後期待値(EAP推定)」です。MAP推定は最頻値(モード)を用います。
③ 正解。MAP推定は事後確率密度関数が最大となる(モード)1点を求める点推定法です。
④ 不正解。MLE(最大尤度推定)は事前分布を使用しません。
関連用語
| 用語 | 簡易的な説明 |
|---|---|
| MLE(最大尤度推定) | 事前分布を考慮せず、与えられたデータが得られる確率(尤度)を最大化する点推定手法。 |
| ベイズの定理 | 事前確率と尤度から事後確率を計算するための確率論の基本定理。 |
| 事後確率 | データが得られた後に更新された、パラメータに対する確率(または確率密度)。 |
| 事前確率 | データを得る前に、あらかじめ設定しておくパラメータの確率(または確率密度)。 |
| L2正則化(Ridge) | 重みの二乗和をペナルティとして加える手法。MAP推定においてガウス分布を事前分布とすることに対応。 |



コメント