同時分布と周辺分布

機械学習・強化学習において「同時分布（joint distribution）」と「周辺分布（marginal distribution）」は、確率変数間の関係を理解し、モデルの設計や推論に活かすための重要な概念です。以下に詳しく説明します。

---

1. 同時分布（Joint Distribution）

定義
2つ以上の確率変数が同時に特定の値をとる確率を表す分布です。
例えば、確率変数 $X$ と $Y$ に対して、同時分布は以下のように表されます：

• 離散変数の場合：

  $$P(X = x, Y = y)$$

  $X = x$ かつ $Y = y$ である確率。

• 連続変数の場合（確率密度関数）：

  $$f_{X,Y}(x, y)$$

  $X$ が $x$、$Y$ が $y$ の近くにある確率密度。

例
天気 $X \in \{\text{晴れ, 雨}\}$、傘を持っているか $Y \in \{\text{持っている, 持っていない}\}$ という2つの変数を考えると、以下のような表で表現されることがあります：

この表が $X$ と $Y$ の同時分布を表しています。

---

2. 周辺分布（Marginal Distribution）

定義
同時分布から、1つの確率変数に関する情報だけを取り出すことで得られる分布です。「他の変数を無視する」または「平均化する」イメージです。

• 離散変数の場合：

  $$P(X = x) = \sum_y P(X = x, Y = y)$$

• 連続変数の場合：

  $$f_X(x) = \int f_{X,Y}(x, y) \, dy$$

これは、「変数 $Y$ を積分または合計して消去する」操作と考えられます。

例
先ほどの表から、天気（$X$）の周辺分布は：

• $P(X = \text{晴れ}) = 0.1 + 0.4 = 0.5$

• $P(X = \text{雨}) = 0.4 + 0.1 = 0.5$

---

3. 機械学習・強化学習での重要性

• 機械学習では、多変量の特徴量の関係（同時分布）をモデル化し、ある変数（目的変数など）のみに注目して予測する際に周辺分布を用います。

• 強化学習では、状態 $S$ と行動 $A$ の同時分布 $P(S, A)$、またはその周辺分布 $P(S)$、$P(A)$ などを使って、最適なポリシーや価値関数の推定に役立ちます。

---

まとめ

---

必要に応じて、「条件付き分布」や「ベイズの定理」とも密接に関係していますので、続けて学ぶと理解が深まります。