条件付き確率とベイズの定理

「条件付き確率とベイズの定理」は、機械学習や強化学習において不確実な状況下での意思決定や予測を行う上で極めて重要な概念です。以下で、それぞれについて詳しく説明します。

---

条件付き確率（Conditional Probability）

定義

条件付き確率とは、ある事象Bが起こったという条件のもとで、別の事象Aが起こる確率を指します。

数式表現

条件付き確率は以下のように表されます：

$$P(A \mid B) = \frac{P(A \cap B)}{P(B)} \quad \text{（ただし } P(B) > 0 \text{）}$$

ここで：

• $P(A \mid B)$：事象Bが起こったときのAの条件付き確率

• $P(A \cap B)$：AかつBが同時に起こる確率（共通部分）

• $P(B)$：事象Bの確率

例

「ある患者が風邪（B）をひいているとき、咳（A）をしている確率」
→ $P(\text{咳} \mid \text{風邪})$

---

ベイズの定理（Bayes’ Theorem）

定義

ベイズの定理は、事後確率（ある結果が得られた後に、原因となる事象の確率）を条件付き確率を使って求める公式です。

数式表現

ベイズの定理は以下のように表されます：

$$P(A \mid B) = \frac{P(B \mid A) \cdot P(A)}{P(B)} \quad \text{（ただし } P(B) > 0 \text{）}$$

ここで：

• $P(A)$：事前確率（事象Aのもともとの確率）

• $P(B \mid A)$：事象Aが起こったときにBが起こる確率（尤度）

• $P(B)$：Bが起こる全体の確率（証拠）

• $P(A \mid B)$：Bが観測された後のAの確率（事後確率）

直感的な理解

ベイズの定理は以下のような場面で使われます：

「観測結果Bが得られたとき、その原因がAである確率は？」

---

ベイズの定理を使った例

問題設定：
ある病気にかかる確率が1%（＝0.01）、病気のときに陽性となる確率が99%（＝0.99）、健康でも1%の確率で誤って陽性となる（＝0.01）。このとき、検査が陽性だったとき、本当に病気である確率は？

数値の整理

• $P(\text{病気}) = 0.01$

• $P(\text{健康}) = 0.99$

• $P(\text{陽性} \mid \text{病気}) = 0.99$

• $P(\text{陽性} \mid \text{健康}) = 0.01$

計算

まず分母 $P(\text{陽性})$ を計算：

$$P(\text{陽性}) = P(\text{陽性} \mid \text{病気}) \cdot P(\text{病気}) + P(\text{陽性} \mid \text{健康}) \cdot P(\text{健康})$$
$$= 0.99 \cdot 0.01 + 0.01 \cdot 0.99 = 0.0099 + 0.0099 = 0.0198$$

次にベイズの定理を使って：

$$P(\text{病気} \mid \text{陽性}) = \frac{0.99 \cdot 0.01}{0.0198} \approx 0.5$$

つまり、**陽性でも病気である確率は約50%**にすぎません。

---

機械学習・強化学習への応用

• ナイーブベイズ分類器：テキスト分類やスパム検知などで、ベイズの定理に基づいてクラス分類を行う手法。

• 信念更新（Belief Updating）：強化学習エージェントが観測に基づいて環境状態の確率を更新する場面で利用。

• ベイズ最適化：未知の関数（例：ハイパーパラメータ探索）を最小限の評価で最適化する技術。

---

まとめ