関数と極限

機械学習や強化学習における**微分積分（解析学）**の基本として、「関数と極限」の理解は極めて重要です。以下に、数学的な厳密さを保ちつつ、実用的な視点からも詳しく説明します。

---

1. 関数（Function）の定義

関数とは、ある集合の各要素に対して、別の集合の要素をただ一つ対応させる「対応関係」のことです。

• 定義域（domain）: 関数が定義されている入力の集合

• 値域（range）: 関数が取りうる出力の集合

• 写像（mapping）: $f: X \to Y$ は「集合 $X$ の各要素を集合 $Y$ の要素へ写す関数 $f$」を意味する

例：

$$f(x) = x^2 \quad \text{（定義域：} \mathbb{R}, \text{値域：} [0, \infty) )$$

---

2. 極限（Limit）の概念

極限とは、変数がある値に「近づくとき」、関数の出力がどうなるかを表す数学的な概念です。これは微分・積分を定義するための基礎となります。

2.1 数列の極限

数列 $\{a_n\}$ の極限 $\lim_{n \to \infty} a_n = L$ は、$n$ が無限大に近づくとき $a_n$ が $L$ に近づく、という意味です。

例：

$$\lim_{n \to \infty} \frac{1}{n} = 0$$

2.2 関数の極限

関数 $f(x)$ における $x \to a$ のときの極限 $\lim_{x \to a} f(x) = L$ は、「$x$ が $a$ に限りなく近づくとき、$f(x)$ は $L$ に近づく」ことを意味します。

形式的定義（ε-δ論法）:

$$\forall \varepsilon > 0,\ \exists \delta > 0\ \text{such that}\ 0 < |x – a| < \delta \Rightarrow |f(x) – L| < \varepsilon$$

例：

$$\lim_{x \to 2} (3x + 1) = 7$$

---

3. 片側極限と無限大の極限

• 右側極限: $\lim_{x \to a^+} f(x)$

• 左側極限: $\lim_{x \to a^-} f(x)$

これらが一致すれば、**通常の極限（両側極限）**が存在するとされます。

また、極限が有限値でなく「発散」する場合もあります：

$$\lim_{x \to 0^+} \frac{1}{x} = \infty$$

---

4. 極限の性質（演算則）

以下の性質は複雑な関数の極限を求める際に役立ちます：

• 線形性: $\lim_{x \to a} [f(x) + g(x)] = \lim f(x) + \lim g(x)$

• 定数倍: $\lim_{x \to a} [c \cdot f(x)] = c \cdot \lim f(x)$

• 積: $\lim f(x) \cdot \lim g(x)$

• 商: $\lim \frac{f(x)}{g(x)} = \frac{\lim f(x)}{\lim g(x)}$（ただし分母は0でない）

---

5. 機械学習・強化学習との関係

微分や勾配との関係

極限は**導関数（微分）**の定義に不可欠です：

$$f'(x) = \lim_{h \to 0} \frac{f(x+h) – f(x)}{h}$$

この「変化の割合」は、最適化（例：勾配降下法）の基礎であり、誤差関数を最小化する際に用いられます。

連続性と安定性の理解

関数の極限が存在することは、その点での「連続性」の確認にもつながり、強化学習の報酬関数や価値関数の滑らかさ・安定性の理解に必要です。

---

まとめ

• 関数は入力と出力の対応関係

• 極限は「近づくとどうなるか」を数学的に表現する

• 極限は微分・連続性・最適化の理解に直結

• 機械学習や強化学習では、損失関数の微分可能性や最小値探索に不可欠