[PYTHON] Modell generiert von Variational Autoencoder (VAE)

Dieser Artikel ist der 13. Tagesartikel des Adventskalenders für maschinelles Lernen. Fassen wir die Ergebnisse des Versuchs des generierten Modells mit Variational Autoencoder zusammen.

Sag mir, wie die Theorie ist!

-Leiten Sie die latente Variable Z aus den Testdaten X ab( Z|X ), X basierend auf Z und Label Y.|Z,Es ist Y. zu regenerieren. ――Ich finde es interessant, dass Sie X mit der Bezeichnung Y erzeugen können, indem Sie eine beliebige latente Variable eingeben.

Sehen Sie sich zum Beispiel dieses Video an.

• MNIST

• SVHN

Dies ist das Ergebnis eines Experiments, bei dem Daten mit der Bezeichnung 0-9 durch zufällige Eingabe beliebiger latenter Variablen in das trainierte Modell generiert wurden. Es handelt sich um vertraute MNIST-Daten, die jedoch nicht aus dem Datensatz herausgeschnitten, sondern von VAE generiert werden. Durch Verwendung der latenten Variablen, die für eine bestimmte Eingabe erhalten wurde, ist es möglich, Etikettendaten zu generieren, die dieser Eingabe ähnlich sind.

Zum Beispiel ein solches Bild.

Die Zahl ganz links ist ein Bild aus MNIST und wird als Eingabe verwendet. Bilder von 0 bis 9 werden als Eingabe X verwendet, und die daraus erhaltene latente Variable Z wird verwendet, um X | Z, Y zu erzeugen. Sie können sehen, dass das Bild von 0 bis 9 erhalten wird, indem Sie den Stil des Eingabebildes imitieren (dicke Linien, Erstellen einer Kurve usw.). Als ich die Zeitung las, habe ich sie zuerst falsch verstanden, aber die Bilder von 0 bis 9 sind nicht die Bilder ähnlichen Stils, die von MNIST stammen, sondern die von NN erzeugten Bilddaten. Es ist ziemlich interessant, nicht wahr?

Interne Theorie

――Ich dachte, ich würde es schreiben, aber es wurde unangenehm, die Formel zu schreiben, und es wird 14 Tage in 15 Minuten sein. Wenn Sie also interessiert sind, lesen Sie bitte die Zeitung! http://papers.nips.cc/paper/5352-semi-supervised-learning-with-deep-generative-models.pdf

• Als Implementierungsbeispiel ist hier das von Chainer implementierte. Da es jedoch nicht gewartet wird, funktioniert es nicht mit der neuesten Version von Chainer. .. .. Zum Glück gab es eine Person, die schrieb, wie man damit umgeht. Bitte versuchen Sie diesen Artikel. .. .. Pururiku ist willkommen. https://github.com/RyotaKatoh/chainer-Variational-AutoEncoder

Mögliche Anwendungen

• Generierung eines Datensatzes für überwachtes Lernen (halbüberwachtes Lernen)
• Rechtliches Recht.
• Generierung eines neuen Bildes, das den Trainingsdatensatz imitiert
• Indem Sie einen beliebigen Wert in die verborgene Ebene eingeben, können Sie ein neues Bild erstellen und dabei den erlernten Speicherplatz beibehalten. ――Aber in diesem Bereich halte ich Methoden wie DeepDream und Stylenet für interessant.
• Anwendung auf Zeitreihendaten
• Beispiel für das Generieren neuer Musik aus Musik, die vom Variational Recurrent Autoencoder gelernt wurde. (Ich habe es schon einmal versucht, aber es gab keine sehr interessanten Ergebnisse.)
• Neben Musik gibt es verschiedene Verwendungszwecke wie Dokumentenerstellung und Bewegungserfassungsdaten.

Guter Grund

»Eigentlich wollte ich eine andere Zeitung lesen oder mit Tensorflow ausprobieren, aber ich konnte mir nicht die Zeit nehmen, und der Tee wurde so schlammig. (Das VAE-Experiment wurde ungefähr im August durchgeführt.) ――Ich möchte Zeitmanagementtechniken lernen.

Referenz

• http://deeplearning.jp/wp-content/uploads/2014/04/dl_hacks2015-04-21-iwasawa1.pdf
• http://www.slideshare.net/beam2d/semisupervised-learning-with-deep-generative-models