【E資格】ダイバージェンス

E資格シラバスの数学的基礎において、2つの確率分布がどれくらい離れているかを評価する指標であるダイバージェンス（Divergence）について解説します。ディープラーニングモデルの予測分布を、理想的な真の分布に近づけるための損失関数の理論的バックボーンとなる重要な概念です。

基本的な考え方
メタファー（日常の例え話）
公式
大前提：対象となる確率変数の同一性
実際の使い方の例
〇×問題と解答
4択問題と解答
KLダイバージェンスの具体的な計算問題
周辺用語一覧

基本的な考え方

ダイバージェンスとは、一言で言えば「2つの確率分布の間のズレや違和感の強さを測るものさし」です。機械学習では、データが本来持っている「真の確率分布」に対して、モデルが予測した「予測確率分布」がどれくらい似ているか（あるいは異なっているか）を計算する必要があります。一般的な空間の距離（センチメートルなど）とは異なり、「Aから見たBのズレ」と「Bから見たAのズレ」が必ずしも同じにならない（非対称である）という独特の数学的性質を持っています。

メタファー（日常の例え話）

概念を直感的に理解するための日常的な例え話です。

【2人の「味の好みのズレ」を測るメーター】

A君とB君のラーメンの好みを比較します。A君の好みが「醤油50%、味噌30%、塩20%」であるのに対し、B君の好みが「醤油10%、味噌20%、塩70%」だったとき、この2つの配分のバランスが全体としてどれくらい食い違っているかを数値化するのがダイバージェンスです。これは単純な引き算ではなく、「A君を基準にしてB君を見るか」「B君を基準にしてA君を見るか」によって、測定される違和感の数値が変化するという、立場（基準）によって見え方が変わる非対称なものさしです。

公式

機械学習で最も多用される「KLダイバージェンス（カルバック・ライブラー情報量）」を例に挙げます。離散型の確率分布 $P(x)$ と $Q(x)$ の間のダイバージェンスの公式は以下の通りです。

D_{\text{KL}}(P \parallel Q) = \sum_{x} P(x) \log \frac{P(x)}{Q(x)}

この公式は、基準となる確率分布 $P(x)$ のもとで、もう一方の分布 $Q(x)$ との比率の対数（ $\log$ ）の期待値を計算しています。これにより、分布全体としての「情報量の損失（ズレ）」を数学的に算出しています。

大前提：対象となる確率変数の同一性

ダイバージェンスを計算する上で、数式内の $x$ にあたる確率変数は、2つの分布（ $P$ と $Q$ ）の間で完全に「同じもの」でなければなりません。

例えば、分布 $P$ が「明日の天気が晴れ・雨・曇りになる確率」を扱っているならば、比較する分布 $Q$ も全く同じ「晴れ・雨・曇り」という確率変数を対象にしている必要があります。片方が「天気の確率」、もう片方が「サイコロの目の確率」のように、異なる確率変数を扱う分布同士では、ダイバージェンス（分布のズレ）を計算することは数学的に絶対に不可能であるため注意が必要です。

実際の使い方の例

具体的なイメージを持つために、3つのクラス（犬、猫、鳥）という共通の確率変数を分類する画像認識AIの出力を考えます。ある画像に対する「真の正解ラベル（分布 $P$ ）」と「AIの予測確率（分布 $Q$ ）」のズレをKLダイバージェンスで計算します。

1. 2つの確率分布の用意
画像が「犬」である場合、それぞれの分布は以下のようになります。

真の分布 $P$ ： $\text{犬} = 1.0$ 、 $\text{猫} = 0.0$ 、 $\text{鳥} = 0.0$
予測分布 $Q$ ： $\text{犬} = 0.7$ 、 $\text{猫} = 0.2$ 、 $\text{鳥} = 0.1$

2. ズレ（ダイバージェンス）の計算
公式に当てはめると、真の確率が1.0である「犬」の要素だけが計算に残ります（0.0の要素は消滅します）。

$D_{\text{KL}}(P \parallel Q) = 1.0 \times \log \frac{1.0}{0.7} \fallingdotseq 0.356$

AIの予測が完璧（犬=1.0）に近づくほど、この分数の値は1に近づき、 $\log 1 = 0$ となってダイバージェンス（ズレ）はゼロになります。実務において、この「分布のズレをゼロにする（最小化する）」という目的でニューラルネットワークの損失関数を構築する際、ダイバージェンスの数式がそのまま、あるいは交差エントロピー誤差という形に変形されて多く利用されています。

リンク

〇×問題と解答

理解度を確認するための〇×問題です。E資格試験で問われやすいポイントを想定しています。

非負性の性質

問題

2つの確率分布 $P$ と $Q$ がどのように異なっていても、KLダイバージェンス $D_{\text{KL}}(P \parallel Q)$ の計算結果がマイナスの値（負の値）をとることは絶対にない。

〇（正しい）
×（誤り）

解答・解説

正解：〇（正しい）

【解説】ギブスの不等式（Gibbs’ inequality）と呼ばれる数学的定理により、KLダイバージェンスは常に0以上（非負）になることが証明されています。確率分布のズレを測定する性質上、マイナスになることはありません。

対称性の有無

問題

KLダイバージェンスは2つの確率分布の距離を測定する指標であるため、分布 $P$ から見た分布 $Q$ のズレ $D_{\text{KL}}(P \parallel Q)$ と、分布 $Q$ から見た分布 $P$ のズレ $D_{\text{KL}}(Q \parallel P)$ の値は常に完全に一致する。

〇（正しい）
×（誤り）

解答・解説

正解：×（誤り）

【解説】KLダイバージェンスには対称性がありません。一般に $D_{\text{KL}}(P \parallel Q) \neq D_{\text{KL}}(Q \parallel P)$ であり、どちらの分布を基準（手前）にするかによって値が変わる点は、E資格試験のひっかけ問題として非常に多く出題されるため厳重な注意が必要です。

距離の公理との関係

問題

KLダイバージェンスは、2つの分布が完全に一致するときに値が0になり、かつ値が常に0以上になることから、数学における「距離」の定義（公理）を完璧に満たしている。

〇（正しい）
×（誤り）

解答・解説

正解：×（誤り）

【解説】数学における正式な「距離」と認められるには、①非負性、②同一性（一致したら0）、③対称性（往復が同じ）、④三角不等式（回り道の方が遠い）の4つをすべて満たす必要があります。KLダイバージェンスは③対称性を満たさず、④三角不等式も満たさないため、厳密には距離ではなく「擬距離（あるいは情報量）」と呼ばれます。

4択問題と解答

完全に一致したときの値に関する問題

問題

モデルの学習が完璧に進み、予測した確率分布 $Q(x)$ が、目標とする真の確率分布 $P(x)$ と「すべての点で完全に一致」した状態（ $P(x) = Q(x)$ ）になりました。このときのKLダイバージェンス $D_{\text{KL}}(P \parallel Q)$ の値として正しいものはどれか？

A) 無限大（ $\infty$ ）
B) 1.0
C) 0.5
D) 0.0

解答・解説

正解：D) 0.0

【各選択肢の解説】
・A) 無限大：2つの分布が全く重なり合わない（一方が0の場所でもう一方が値を割り当てている）ような極端なケースでは無限大に発散することがありますが、一致している場合は誤りです。
・B) 1.0：完全に一致しているとき、ズレは存在しないため1.0という数値を返す記述は誤りです。
・C) 0.5：何らかのペナルティが残っている状態を意味する数値であるため誤りです。
・D) 0.0：2つの確率分布が完全に一致するとき、KLダイバージェンスは最小値である0.0をとります。公式に代入すると、 $\frac{P(x)}{Q(x)} = 1$ となり、 $\log 1 = 0$ となるため数学的にも0.0に帰着し、これが正解となります。

KLダイバージェンスの具体的な計算問題

数式の展開方法と計算の流れを掴むために、具体的な数値を用いた計算問題を解説します。

【問題】

ある画像が「犬」か「猫」かを判定する二値分類モデルがあります。この画像に対する真の確率分布 $P$ と、モデルの予測確率分布 $Q$ が以下のように与えられたとき、KLダイバージェンス $D_{\text{KL}}(P \parallel Q)$ の値を計算してください。なお、底が2の対数（ $\log_2$ ）を用いて計算し、小数第2位まで求めてください。

真の分布 $P$ ： $\text{犬} = 1.0$ 、 $\text{猫} = 0.0$
予測分布 $Q$ ： $\text{犬} = 0.25$ 、 $\text{猫} = 0.75$

【解答・解説】

1. 公式への代入
確率変数 $x$ は「犬」と「猫」の2つの状態をとるため、それぞれの項を公式 $\sum P(x) \log_2 \frac{P(x)}{Q(x)}$ に当てはめます。

D_{\text{KL}}(P \parallel Q) = P(\text{犬}) \log_2 \frac{P(\text{犬})}{Q(\text{犬})} + P(\text{猫}) \log_2 \frac{P(\text{猫})}{Q(\text{猫})}

値を代入すると以下のようになります。

D_{\text{KL}}(P \parallel Q) = 1.0 \times \log_2 \frac{1.0}{0.25} + 0.0 \times \log_2 \frac{0.0}{0.75}

2. 数式の整理と対数計算
第2項は $0.0$ が掛けられているため消滅します。残った第1項の分数を整理して対数計算を進めます。

D_{\text{KL}}(P \parallel Q) = 1.0 \times \log_2 4 = \log_2 (2^2) = 2.0

したがって、求める値は 2.00 となります。

【試験対策の注意点】
もしこの問題で $D_{\text{KL}}(Q \parallel P)$ を求めるように指示された場合、分母に $P(\text{猫}) = 0.0$ がきてしまいゼロ除算が発生するため、数学的に計算不可能（無限大に発散）となります。E資格では「真の分布が0である要素に対して、予測分布が正の値を割り当てていると、逆方向のKLダイバージェンスが計算できなくなる」という性質が非常によく狙われるため、計算の順序（どちらが手前か）には厳重な注意が必要です。

周辺用語一覧

体系的に理解する上で、セットで学習すべき重要キーワードです。

周辺用語名	英語表記	ダイバージェンスとの関連性
交差エントロピー	Cross Entropy	KLダイバージェンスの数式を展開した際に現れる項です。真の分布のシャノンエントロピーが一定であれば、交差エントロピーを最小化することはKLダイバージェンスを最小化することと完全に等価になります。
JSダイバージェンス	Jensen-Shannon Divergence	KLダイバージェンスの「非対称である」という弱点を克服した発展指標です。方向を平均化することで対称性（AとBの入れ替えが可能）を持たせており、GAN（敵対的生成ネットワーク）などで活用されます。
期待値	Expected Value	確率分布にわたる平均値のことです。KLダイバージェンスの公式は、数式的には「対数尤度比の真の分布における期待値」を計算している構造になっています。