[PYTHON] Deep Learning Bilderkennung 3 nach der Modellerstellung

Aidemy　2020/11/10

Einführung

Hallo, es ist ja! Ich bin eine knusprige Literaturschule, aber ich war an den Möglichkeiten der KI interessiert, also ging ich zur AI-spezialisierten Schule "Aidemy", um zu studieren. Ich möchte das hier gewonnene Wissen mit Ihnen teilen und habe es in Qiita zusammengefasst. Ich freue mich sehr, dass viele Menschen den vorherigen zusammenfassenden Artikel gelesen haben. Vielen Dank! Dies ist der dritte Beitrag für tiefes Lernen und Bilderkennung. Freut mich, dich kennenzulernen.

• Dieser Artikel ist eine Zusammenfassung dessen, was Sie in "Aidemy" "in Ihren eigenen Worten" gelernt haben. Es kann Fehler und Missverständnisse enthalten. Bitte beachten Sie.

Was diesmal zu lernen ・ Bequeme Funktionen von Keras ・ Informationen zur Methode zur Verbesserung der Genauigkeit des Modells

nützliche Funktion

Anzeige des Lernprozesses

• Es gibt eine Möglichkeit zu visualisieren, wie sich die Genauigkeit im Verlauf des Lernens geändert hat. Wenn beispielsweise "model.fit ()" in der Variablen "history" gespeichert ist, kann die Änderung der Genauigkeit mit __ "history.history ['acc']" __ erhalten werden. Der Rest kann durch __ "plt.plot ()" __ visualisiert werden.

-Auch im vorherigen Kapitel wurde die Berechnung der Generalisierungsgenauigkeit mit __ "model.evaluate (X_test, y_test)" __ durchgeführt, jedoch im Argument von "model.fit ()" __ "validation_data = (X_test)". , y_test) ”__ berechnet die Generalisierungsgenauigkeit auf die gleiche Weise __.

• Ähnlich wird empfohlen, beim Erfassen der Änderung der Generalisierungsgenauigkeit __ "history.history ['val_acc']" __ zu verwenden, um sie zu visualisieren.

・ Code

・ Ergebnis

Early Stopping ・ Selbst wenn die Anzahl der Lernvorgänge zu groß ist, sinkt die Genauigkeit, wenn sie ein bestimmtes Niveau überschreitet. In solchen Fällen ist es wichtig, das Lernen frühzeitig zu beenden. __ "Early Stop" __ kann in solchen Fällen verwendet werden. ・ Frühes Stoppen enthält neben Trainings- und Testdaten auch Verifizierungsdaten, nimmt einen Fehler zwischen der Auswertung dieser Daten und der Auswertung der Trainingsdaten für jedes Lernen auf und stoppt das Lernen zu dem Zeitpunkt, zu dem sich der Fehler ausbreitet. Das ist.

• Erstellen Sie als Code zuerst eine Instanz als __ "es = EarlyStopping ()" __. Alles was Sie tun müssen, ist __ "callbacks = [es]" __ im Argument von model.fit () zu setzen.
• Geben Sie als Argument der Instanz an, was als Bewertungsfehler mit __ "monitor" __ überwacht werden soll, und beenden Sie das Lernen, wenn der überwachte Wert nicht um wie viele Epochen mit __ "Geduld" __ verbessert wird Für __ "Modus" __ gibt "Modell verbessern" an, ob der angegebene Wert "erhöht" bzw. "verringert" ist, __ "'max'" bzw. "'min". Geben Sie mit '”__ an. Wenn Sie dies auf __ "'auto'" __ setzen, wird es automatisch erraten.

Ausgabe der Modellstruktur

-Wenn Sie die Struktur des Modells überprüfen möchten, gibt es eine __- Methode, um dies als __- Bild auszugeben. Die Methode ist nur __ "plot_model (model, to_file = 'model.png')" __. -Wenn Sie für jede Ebene einen Namen festlegen möchten, fügen Sie dem Argument __ "name" __ hinzu, wenn Sie __ "model.add ()" __ verwenden, um eine darunter liegende Ebene zu erstellen.

·Code

·Ergebnis

So verbessern Sie die Genauigkeit

Optimierung

・ In vielen Fällen ist es besser, die Lernrate im Verlauf des Lernens zu ändern. Dies wird als __ "Optimierung der Lernrate" __ bezeichnet, und Adam, RMSprop, Adagrad usw. werden verwendet.

Aussteigen

• Obwohl es schon oft vorgekommen ist, kann dropout als eine Methode erwähnt werden, die verwendet wird, um Überlernen zu verhindern und die Genauigkeit zu verbessern. Dies ist eine Methode, die die Verallgemeinerung durch zufälliges Entfernen von Daten erleichtert.

Feinabstimmung (Transferlernen)

-Feinabstimmung __ (Transferlernen) __ wurde bereits gelernt, aber es ist eine Methode, um mit einem Teil von __ anderen Modellen __ zu trainieren. In Bezug auf die Bilderkennung wird nur die letzte vollständig verbundene Schicht geändert und die gewundene Schicht wird so verwendet, wie sie ist.

• Als Bilderkennungsmodell kann Keras die von ImageNet aus den fünf Bildklassifizierungsmodellen __ "Xception, VGG16, VGG19, ResNet50, Inception V3" __ gelernten Gewichte herunterladen und verwenden. Das folgende Beispiel zeigt das Erstellen eines Modells von VGG16.

-Für den obigen Code geben Sie zuerst das Eingabeformular mit __ "input_tensor" __ ein. Nachdem Sie dies definiert haben, erstellen Sie tatsächlich ein VGG-Modell __. Es kann mit "VGG16 ()" __ erstellt werden. Als Argument gibt __ "include_top" __ an, ob die vollständig verbundene Ebene des Originalmodells mit True oder False verwendet werden soll, und __ "weight = 'imagenet'" __ gibt an, dass die von imagenet gelernten Gewichte verwendet werden sollen. , __ "input_tensor" __ Beschreiben Sie das zuvor definierte Eingabeformular.

・ Nachdem Sie dies getan haben, müssen Sie im nächsten Schritt ein separates Modell __ (top_model) __ in der Nähe der Ausgabeebene (vollständig verbundene Ebene) erstellen. Da die Eingabeebene von top_model die Ausgabe des VGG-Modells (Faltungsschicht) empfängt, wird sie als __ "Flatten ()" __ festgelegt. Durch Setzen von input_shape auf __ "vgg16.output_shape [1:]" __ kann die Ausgabeform (zweidimensional) des VGG-Modells erhalten werden. -Der Rest besteht nur darin, Ebenen wie bei einem normalen Modell hinzuzufügen. Nach dem Addieren zur Ausgabeebene besteht der nächste Schritt darin, ein endgültiges Modell mit __ "Eingabe ist vgg16.input, Ausgabe ist top_model mit vgg Ausgabe" __ zu erstellen.

-Dies ist das Ende der Ebenenaddition, und von nun an werden wir kompilieren und lernen, aber vorher das Gewicht des __VGG-Modellteils so einstellen, dass es nicht geändert wird __.

-Es gibt keine besonderen Änderungen beim Zusammenstellen und Lernen. Nur ein Punkt, wenn Transferlernen durchgeführt wird, sollte die Optimierungsfunktion __ "SGD" __ sein.

Zusammenfassung

-Die Genauigkeit des Lernens kann durch Ändern von __ "history ['acc']" __ in __ "plt.plot ()" __ visualisiert werden.

• Auch wenn model.evaluate () nicht verwendet wird, wird die Generalisierungsgenauigkeit des Modells __ berechnet, indem __ "Validierungsdaten" __ in model, fit () festgelegt wird.
• Wenn Sie EarlyStopping verwenden, erstellen Sie eine Instanz und geben Sie sie mit dem Argument __ "callbacks" __ von model.fit () an. -Wenn Sie die Modellstruktur als Bild visualisieren möchten, können Sie dies mit __ "plot_model (model, to_file)" __ tun.
• Zusätzlich zur Optimierung und zum Ausfall gibt es auch Möglichkeiten zur Verbesserung der Genauigkeit, z. B. transfer learning. Beispielsweise wird bei der Bilderkennung die Faltungsschicht mit VGG16 übertragen, das Modell in der Nähe der Ausgabeschicht wird von Ihnen selbst implementiert und das gesamte Modell wird durch Kombinieren implementiert.

Diese Zeit ist vorbei. Vielen Dank für das Lesen bis zum Ende.