【E資格対策】MAP推定とは?MLEとの違いから事後確率の最大化まで分かりやすく解説

E資格用語・練習問題

AIや機械学習の学習を進める中で、データの背景にある確率モデルを推定する手法として「MAP推定(Maximum A Posteriori estimation:最大事後確率推定)」は非常に重要な概念です。

画像認識や自然言語処理などのディープラーニングモデルにおける正則化(L2正則化など)の理論的背景としても活用されており、E資格や統計学の試験でも頻出のテーマとなっています。

一言で言うと

MAP推定とは、「得られたデータ」と「事前の知識(事前確率)」の両方を考慮して、最も確かそうなパラメータの値を求める手法です。

観察されたデータだけに頼るのではなく、「パラメータの値はあらかじめこのような分布に従うだろう」という事前情報を組み合わせることで、データの少なさやノイズによる過学習(オーバーフィッティング)を防ぐことができます。

詳細

MAP推定は、ベイズの定理をベースにしてパラメータ \theta の事後確率 P(\theta | D) を最大化する手法です。

ここで、データ(観測値)を D、求めたいパラメータを \theta としたとき、ベイズの定理より事後確率は以下のように表されます。

P(\theta | D) = \frac{P(D | \theta) P(\theta)}{P(D)}

パラメータ \theta について最大化を行う際、分母の P(D) は \theta に依存しない定数とみなせるため無視できます。したがって、MAP推定の目的関数は次のようにシンプルに表現されます。

\hat{\theta}_{\text{MAP}} = \arg\max_{\theta} P(D | \theta) P(\theta)

すなわち、MAP推定は「尤度(データがそのパラメータのもとで発生する確率)P(D|\theta)」と「事前確率(パラメータに関する事前の知識)P(\theta)」の積を最大化する操作と言えます。

MLE(最大尤度推定)との違い

MAP推定を理解する上で避けて通れないのが、MLE(Maximum Likelihood Estimation:最大尤度推定)との違いです。

MLEは事前知識を考慮せず、単純に「手元にあるデータ D が最も発生しやすくなるパラメータ \theta」を推定します。

\hat{\theta}_{\text{MLE}} = \arg\max_{\theta} P(D | \theta)

もし事前確率 P(\theta) が一様分布(どのパラメータ値も等しく起こりやすいという事前情報)である場合、MAP推定の数式はMLEと完全に一致します。

正則化(L2正則化)との関係

機械学習において、モデルの過学習を抑えるために重みにペナルティを課す「正則化」が行われます。この正則化項は、MAP推定における「事前分布」の設定に対応しています。

例えば、重みパラメータ \theta の事前分布として平均0の正規分布(ガウス分布)を仮定し、対数事後確率を最大化すると、評価関数にL2正則化項(Ridge回帰のペナルティ)が現れます。

また、事前分布としてラプラス分布を仮定した場合はL1正則化項(Lasso回帰のペナルティ)に対応します。このように、MAP推定は機械学習における正則化の統計的基盤となっています。

資格勉強時のコツ

E資格などの試験対策としては、以下の3点を整理して覚えておくのが効率的です。

  • 構成要素の整理: MAP推定は「尤度 \times 事前確率」の最大化であることを丸暗記する。
  • MLEとの関係: 事前分布が一様分布のとき「MAP推定 = MLE」となる関係性を押さえる。
  • 正則化との対応: ガウス分布の事前情報=L2正則化、ラプラス分布の事前情報=L1正則化という対応関係を紐づける。

例題

問題

MAP推定(最大事後確率推定)に関する以下の文章の( ア )〜( ウ )に入る最も適切な語句の組み合わせを選んでください。

MAP推定は、ベイズの定理を用いて( ア )確率を最大化するパラメータを求める手法です。これは、( イ )関数と事前確率の積を最大化することと同等です。もし事前分布として無情報な( ウ )分布を仮定した場合、MAP推定の結果は最大尤度推定(MLE)と一致します。

① ア:事前、イ:損失、ウ:正規
② ア:事後、イ:尤度、ウ:一様
③ ア:事後、イ:損失、ウ:二項
④ ア:事前、イ:尤度、ウ:一様

解答

正解:②

解説:
MAP推定は「事後(Posteriori)」確率を最大化する手法であり、その計算は「尤度関数 P(D|\theta)」と「事前確率 P(\theta)」の積に比例します。また、すべてのパラメータ範囲で一定の値をとる「一様分布」を事前分布に設定した場合、事前確率の影響が定数化するため、MLE(最大尤度推定)と一致します。

問題1

○×問題

【問題】
MAP推定では、データサイズ(サンプル数)が極めて大きくなると、事前分布の影響が相対的に小さくなり、推定値はMLE(最大尤度推定)の解に近づく。〇か×か。

解答

正解:〇

解説:
データ量(サンプル数)が非常に大きくなると、尤度 P(D|\theta) の影響が事前確率 P(\theta) の影響を圧倒するようになります。そのため、データが十分に存在する環境ではMAP推定値とMLE推定値はほぼ同じ値へと収束します。

問題2

計算問題

【問題】
コインの表が出る確率 \theta を推定します。コインを3回投げて3回とも表が出ました(データ D = \text{表3回})。
尤度関数が P(D|\theta) = \theta^3 で表され、パラメータ \theta の事前確率密度関数が P(\theta) = 2\theta \quad (0 \le \theta \le 1) であるとき、MAP推定値 \hat{\theta}_{\text{MAP}} を求めてください。

解答

正解:1.0(または 1)

解説:
MAP推定では P(D|\theta) P(\theta) を最大化する \theta を求めます。
対象の関数を f(\theta) とおくと、
f(\theta) = \theta^3 \times 2\theta = 2\theta^4
となります。0 \le \theta \le 1 の範囲において、2\theta^4 が最大となるのは \theta = 1 のときです。したがって、MAP推定値は \hat{\theta}_{\text{MAP}} = 1 となります。

問題3

ひっかけ問題

【問題】
MAP推定(最大事後確率推定)とベイズ推定に関する記述として、最も適切なものを1つ選んでください。

① MAP推定は事後確率分布全体(確率分布そのもの)を求める手法である。
② MAP推定は事後確率分布の「平均値(期待値)」を点推定値として出力する。
③ MAP推定は事後確率分布を「最大化する点(モード:最頻値)」を点推定値として出力する。
④ MAP推定とMLEはどちらも事前にパラメータの確率分布を完全指定する必要がある。

解答

正解:③

解説:
① 不正解。事後確率分布全体を求めるのは「完全なベイズ推定」です。MAP推定は分布の山の一番高い単一の点(点推定値)のみを求める手法です。
② 不正解。事後確率分布の平均値(期待値)を用いるのは「ベイズ推定における事後期待値(EAP推定)」です。MAP推定は最頻値(モード)を用います。
③ 正解。MAP推定は事後確率密度関数が最大となる(モード)1点を求める点推定法です。
④ 不正解。MLE(最大尤度推定)は事前分布を使用しません。

関連用語

用語簡易的な説明
MLE(最大尤度推定)事前分布を考慮せず、与えられたデータが得られる確率(尤度)を最大化する点推定手法。
ベイズの定理事前確率と尤度から事後確率を計算するための確率論の基本定理。
事後確率データが得られた後に更新された、パラメータに対する確率(または確率密度)。
事前確率データを得る前に、あらかじめ設定しておくパラメータの確率(または確率密度)。
L2正則化(Ridge)重みの二乗和をペナルティとして加える手法。MAP推定においてガウス分布を事前分布とすることに対応。

コメント