カスタムモデルの作成（tf.keras.Modelの継承）

TensorFlowにおけるカスタムモデルの作成（tf.keras.Modelの継承）は、標準的なSequential APIやFunctional APIでは表現が難しい複雑な構造や振る舞いを持つモデルを定義する際に用いられます。これは、より柔軟で制御可能なモデル設計を可能にする高度な機能です。

---

1. 基本概念

tf.keras.Model を継承して新しいクラスを定義することで、モデルの**順伝播処理（forward pass）**を自分で記述することができます。このアプローチは、以下のようなケースに有効です：

• 入力に応じて動的にネットワークを構築する必要がある場合

• 複数の出力や条件分岐を含むモデルを定義したい場合

• 独自の学習ステップや損失関数を含む場合（後述の train_step のオーバーライドなど）

---

2. 作成手順

以下は、tf.keras.Model を継承したカスタムモデルの定義手順です。

ステップ1：__init__ メソッドでレイヤーを定義

python
import tensorflow as tf

class MyCustomModel(tf.keras.Model):
    def __init__(self):
        super(MyCustomModel, self).__init__()
        self.dense1 = tf.keras.layers.Dense(64, activation='relu')
        self.dense2 = tf.keras.layers.Dense(10)

    def call(self, inputs):
        x = self.dense1(inputs)
        return self.dense2(x)

ステップ2：call() メソッドで順伝播を記述

• call() は Functional API の __call__() に対応し、モデルに入力データを与えた際に呼び出されます。

• training や mask などの引数を追加すれば、学習時と推論時の挙動を切り替えることも可能です。

---

3. 利用方法（訓練・評価）

定義したカスタムモデルは、通常のKerasモデルと同様に使用できます：

python
model = MyCustomModel()
model.compile(optimizer='adam',
              loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True),
              metrics=['accuracy'])

# モデル訓練
model.fit(train_dataset, epochs=5)

# モデル評価
model.evaluate(test_dataset)

---

4. 高度なカスタマイズ：train_step() のオーバーライド

さらに制御を細かく行いたい場合は、train_step() をオーバーライドすることで、学習プロセス全体を自分で定義できます。

python
class MyAdvancedModel(tf.keras.Model):
    def __init__(self):
        super(MyAdvancedModel, self).__init__()
        self.dense1 = tf.keras.layers.Dense(128, activation='relu')
        self.dense2 = tf.keras.layers.Dense(10)

    def call(self, inputs, training=False):
        x = self.dense1(inputs)
        return self.dense2(x)

    def train_step(self, data):
        x, y = data

        with tf.GradientTape() as tape:
            y_pred = self(x, training=True)
            loss = self.compiled_loss(y, y_pred)

        gradients = tape.gradient(loss, self.trainable_variables)
        self.optimizer.apply_gradients(zip(gradients, self.trainable_variables))

        self.compiled_metrics.update_state(y, y_pred)
        return {m.name: m.result() for m in self.metrics}

この方法で、例えばカスタム正則化項の追加、デュアルオプティマイザの導入、メトリクスの特殊計算などが可能です。

---

5. 注意点とベストプラクティス

• call() メソッドでは常にテンソル演算のみを記述するようにし、副作用のある処理（例：print、ファイル出力など）は避けるべきです。

• モデルを保存（model.save()）する際は、Kerasのsave_weights()やSavedModel形式の使用に注意が必要です（関数形式と比べて柔軟ですが、再ロード時の定義が必要になります）。

• 自動微分に対応するため、TensorFlowの演算を利用して記述する必要があります。

---

まとめ