[PYTHON] [GPT-2] Ich habe versucht, einen gefälschten Trump-Präsidenten-Bot zu erstellen, indem ich Präsident Trumps Twitter mit GPT-2 verfeinert habe, was als "zu gefährlich" bezeichnet wird.

Hintergrund

Es wurde darüber gesprochen, dass Sie bei Verwendung von GPT-2 , das von OpenAI veröffentlicht wurde, automatisch natürliche Sätze generieren können. Es gibt.

Die jüngste Umfrage der Cornell University zeigt, dass 70% der Menschen, die GPT-2-generierte Texte lesen, die Texte in New York lesen. ・ Das Ergebnis ist, dass es als Times-Artikel missverstanden wurde.

Ein neues Vollmodell mit 1.558 Millionen (1558 Millionen) Parametern wurde veröffentlicht.

In der Realität gibt es jedoch noch Unbekannte darüber, wie diese KI effektiv eingesetzt werden kann. Aus diesem Grund habe ich eine Webanwendung namens "Mockers" entwickelt und veröffentlicht, ein Online-Tool, mit dem jeder GPT-2 problemlos verwenden kann. Auf diese Weise möchte ich die Möglichkeit bieten, über die Verwendung von GPT-2 nachzudenken.

Wenn Sie ein Gefühl dafür bekommen möchten, wie GPT-2 aussieht, probieren Sie dieses Mockers-Generierungswerkzeug aus. https://mockers.io/generator

Obwohl es auf Englisch ist, lesen Sie bitte hier, wie man es benutzt. https://doc.mockers.io/archives/1966/ https://doc.mockers.io/archives/1987/

Zweck dieses Artikels

Teilen Sie die Ergebnisse von Experimenten mit, bei denen die Feinabstimmung mit Mockers in Frage gestellt wurde.

Bei der Feinabstimmung wird ein bereits geschultes Modell verwendet, zusätzliche Daten bereitgestellt, kostengünstig trainiert und ein anderes Modell generiert. Es wird ein Modell erstellt, das den Kontext und den Stil eines bestimmten Satzes lernt und den Satz danach generiert. Mockers versucht nicht nur GPT-2, es unterstützt auch die Feinabstimmung und das automatische Posten.

Anwendungsfall

Mit diesem Mechanismus können beispielsweise die folgenden Anwendungsfälle realisiert werden.

――Sie können ein Medium erstellen, das das Urheberrecht eines bestimmten Kurationsmediums nicht verletzt, es nachahmt und PV-Verschüttungen empfängt, um es zu parasitieren.

――Sie können einen Bot erstellen, der ständig ein bestimmtes Twitter-Konto verwaltet.

Was möchten Sie versuchen

In diesem Artikel wird als Demo zum Experimentieren mit der Feinabstimmung mit GPT-2 beschrieben: Mit Mockers habe ich Präsident Trumps Twitter verfeinert, um einen gefälschten Trump President-Bot zu erstellen.

Auch hier können Sie immer den neuesten Mock von Präsident Trump sehen. https://mockers.io/timeline

Verfahren

Rufen Sie die folgende Seite auf. https://mockers.io/login

Für die Feinabstimmung ist ein Login erforderlich. Melden Sie sich an oder verwenden Sie Ihr Google-Konto.

Wenn Sie sich erfolgreich anmelden können, werden Sie aufgefordert, ein Modell so zu erstellen, wie es ist. Drücken Sie daher auf "Zum Erstellungsbildschirm gehen".

Wenn der neue Modelldialog angezeigt wird, geben Sie den "Modellnamen" entsprechend ein und setzen Sie den "Modelltyp" auf "Benutzerdefiniertes Modell (Twitter)". Jetzt können Sie ein genau abgestimmtes Modell für Ihr Twitter-Konto erstellen. Geben Sie das Ziel-Twitter-Konto unter "Zielkonto zum Verspotten (Eingabe)" ein.

Derzeit dauert die Erstellung eines Modells bis zu 2 Stunden. Sobald das Modell generiert wurde, wird es regelmäßig automatisch generiert. Sie können jedoch auch ein Konto registrieren, um den generierten Text zu twittern. Dazu müssen Sie sich vorab bei Twitter API registrieren. Informationen zur Bewerbung finden Sie im folgenden Artikel. https://qiita.com/kngsym2018/items/2524d21455aac111cdee

Das unter "Zielkonto synchronisieren (Eingabe)" eingegebene Twitter-Konto löst den Tweet aus und generiert Sätze mit Inhalten, die sich auf den Tweet beziehen.

Auf diese Weise wird "Mock" realisiert.

Versuchsergebnis

Das Folgende ist der Inhalt, der tatsächlich von Fake Trump getwittert wurde. Es ist nicht unbedingt die Zeile, die er wahrscheinlich sagt, aber manchmal sagt er etwas, das zu seiner Position passt, und selbst wenn dies nicht der Fall ist, wird es mit Themen generiert, die mit dem zusammenhängen, was er in der Vergangenheit gesagt hat. Sie können sehen, dass.

Die Human Kinetics (SHK) University der University of Alberta ist die führende Einrichtung für energiereiche, wirkungsvolle Forschung in den Bereichen Wissenschaft, Physik und Ingenieurwesen.

Demokratische Kandidaten waren nicht einmal Demokraten, republikanische Kandidaten waren starke und fähige Konservative. Beide waren die Menschen, die ich stark unterstützt habe. Unser Land ist für beide hervorragend.

Seit 2015 haben die ersten großen US-Militäroperationen zur Bekämpfung von IS-Militanten in Syrien und im Irak mindestens 2.500 zusätzliche Bodentruppen eingesetzt, aber die extremsten der Gruppe.

Aufgabe

--GPT-2 kann die Länge für jedes Wort steuern, aber da es die Anzahl der Zeichen nicht steuern kann, kann es nicht für Medien optimiert werden, die eine hohe Anzahl von Zeichen aufweisen, wie z. B. Twitter. Wenn Sie das Twitter-Limit von 280 Zeichen überschreiten, müssen Sie es daher zwangsweise abschneiden.

• Der für die Feinabstimmung erforderliche GPU-Speicher ist zu groß, um mit einer GPU zu arbeiten, die von der allgemeinen Öffentlichkeit bei Modellen ab 774M verwendet werden kann. Selbst meine in Privatbesitz befindliche Instanz "Geforce GTX 1080 Ti" und AWS P3 "Tesla V100" funktionierte aufgrund von Speichermangel nicht. (Normales Denken ist möglich)

abschließend

Es wird erwartet, dass die Satzerzeugungstechnologie, die auf unbeaufsichtigtem Lernen in großem Maßstab basiert, ihre Genauigkeit weiter verbessert und gleichzeitig in die Nutzungsphase in der realen Welt übergeht. Wir hoffen, dass dieser Artikel und Mockers zur Entwicklung und sozialen Umsetzung der KI in natürlicher Sprache beitragen können.

P.S. Vergiss Hillary nicht.

Es war ein Argument, das ich vor den Wahlen von Senatsdemokraten gehört habe, die sagten, dass dies passieren könnte, wenn dies ein Republikaner, ein republikanischer Republikaner oder eine andere Partei wäre.

https://mockers.io