[PYTHON] Versuchen Sie, XOR mit der Keras Functional API zu implementieren

Einführung

Ich habe mich entschlossen, Keras ernsthaft zu starten, also habe ich den Code geschrieben, um das Vorhersagemodell von XOR zu erstellen. Ich möchte in Zukunft komplexe Modelle wie Graph Convolutional Networks erstellen, daher beginne ich mit der funktionalen API.

Quelle

So was. Ohne Batch-Normalisierung war es einfach, in eine lokale Lösung zu fallen, also habe ich sie hinzugefügt. In vielen Fällen war die letzte Schicht eine lineare Schicht, aber es war ein 0, 1-Klassifizierungsproblem, und ich war nicht überzeugt, also entschied ich mich für die Sigmoidfunktion. Die Anzahl der Einheiten in den beiden Zwischenschichten ist auf acht eingestellt.

sample.py

import tensorflow as tf
from tensorflow.keras.models import Sequential, Model
from tensorflow.keras.layers import Dense, Input, Dropout, BatchNormalization

import numpy as np


def main():
    x_input = np.array([[0, 0], [0, 1], [1, 0], [1, 1]])
    y_input = np.array([[0], [1], [1], [0]])

    input_tensor = Input(shape=(x_input.shape[1]))
    # x = Dense(units=32, activation="tanh", kernel_initializer='random_normal')(input_tensor)
    x = Dense(units=8, activation="relu", kernel_initializer='random_normal', use_bias=True)(input_tensor)
    x = BatchNormalization()(x)
    x = Dropout(0.1)(x)
    x = Dense(units=8, activation="relu", kernel_initializer='random_normal', use_bias=True)(x)
kernel_initializer='random_normal', use_bias=False)(x)
    output_layer = Dense(units=1, activation='sigmoid', kernel_initializer='random_normal', use_bias=False)(x)
    model = Model(input_tensor, output_layer)

    model.compile(loss='mse',  optimizer='sgd', metrics=['accuracy'])
    model.summary()

    #Lernen
    model.fit(x_input, y_input, nb_epoch=2000, batch_size=2, verbose=2)

    #Prognose
    print(model.predict(np.array([[0, 0]])))
    print(model.predict(np.array([[1, 0]])))
    print(model.predict(np.array([[0, 1]])))
    print(model.predict(np.array([[1, 1]])))


if __name__ == "__main__":
    main()

Modellübersicht

_________________________________________________________________
Layer (type)                 Output Shape              Param #
=================================================================
input_1 (InputLayer)         [(None, 2)]               0
_________________________________________________________________
dense (Dense)                (None, 8)                 24
_________________________________________________________________
batch_normalization (BatchNo (None, 8)                 32
_________________________________________________________________
dropout (Dropout)            (None, 8)                 0
_________________________________________________________________
dense_1 (Dense)              (None, 8)                 72
_________________________________________________________________
dense_2 (Dense)              (None, 1)                 8
=================================================================
Total params: 136
Trainable params: 120
Non-trainable params: 16

Vorhersageergebnis

[[0.09092495]]
[[0.9356866]]
[[0.90092343]]
[[0.08152929]]

abschließend

Diesmal habe ich es als Ausgangspunkt versucht, aber ich möchte verschiedene Dinge wie Parametereinstellung und Visualisierung ausprobieren.