[PYTHON] [GPT-2] J'ai essayé de faire un faux robot du président Trump en ajustant le Twitter du président Trump avec GPT-2, qui est qualifié de "trop dangereux".

Contexte

Il a été dit qu'en utilisant GPT-2 publié par OpenAI, des phrases naturelles peuvent être générées automatiquement. Il y a.

La dernière enquête de l'Université Cornell montre que 70% des personnes qui lisent les textes générés par GPT-2 lisent les textes à New York. ・ Le résultat est qu'il a été mal interprété comme un article du Times.

Un nouveau modèle complet avec 1 558 millions de paramètres (1558 M) a été publié.

Cependant, en réalité, il existe encore des inconnues sur la manière dont cette IA peut être utilisée efficacement. Par conséquent, j'ai développé et publié une application Web appelée "Mockers", un outil en ligne que n'importe qui peut facilement utiliser GPT-2. En faisant cela, j'aimerais vous donner l'occasion d'examiner comment utiliser GPT-2.

Si vous voulez avoir une idée de ce à quoi ressemble GPT-2, essayez cet outil de génération Mockers. https://mockers.io/generator

Bien qu'il soit en anglais, veuillez vous référer ici pour savoir comment l'utiliser. https://doc.mockers.io/archives/1966/ https://doc.mockers.io/archives/1987/

Objectif de cet article

Partagez les résultats des expériences qui ont contesté le réglage fin à l'aide de Mockers.

Le réglage fin consiste à utiliser un modèle déjà formé, à lui donner des données supplémentaires, à le former à faible coût et à générer un autre modèle. Un modèle est créé qui apprend le contexte et le style d'une phrase donnée et génère la phrase en fonction de celle-ci. Mockers fait plus que simplement essayer GPT-2, il prend en charge le réglage fin et la publication automatique.

Cas d'utilisation

En utilisant ce mécanisme, par exemple, les cas d'utilisation suivants peuvent être réalisés.

――Vous pouvez créer un support qui ne viole pas le droit d'auteur d'un certain support de curation, l'imite et reçoit des déversements de PV afin de le parasiter.

――Vous pouvez créer un bot qui gère en permanence un certain compte Twitter.

Ce que tu veux essayer

Dans cet article, à titre de démonstration, pour expérimenter un réglage fin à l'aide de GPT-2, À l'aide de Mockers, j'ai affiné le Twitter du président Trump pour créer un faux robot du président Trump.

Ici aussi, vous pouvez toujours voir la dernière maquette du président Trump. https://mockers.io/timeline

procédure

Accédez à la page suivante. https://mockers.io/login

Une connexion est requise pour un réglage fin. Inscrivez-vous ou utilisez votre compte Google.

Si vous vous connectez avec succès, vous serez invité à créer un modèle tel quel, alors appuyez sur "Aller à l'écran de création".

Lorsque la boîte de dialogue du nouveau modèle s'affiche, entrez le «nom du modèle» de manière appropriée et définissez le «type de modèle» sur «modèle personnalisé (Twitter)». Vous pouvez désormais générer un modèle affiné pour votre compte Twitter. Entrez le compte Twitter cible dans "Compte cible à simuler (entrée)".

Actuellement, il faut jusqu'à 2 heures pour générer un modèle. Une fois le modèle généré, il sera automatiquement généré régulièrement, mais vous pouvez également créer un compte pour tweeter le texte généré. Pour ce faire, vous devez vous inscrire à l'avance sur Twitter API. Consultez l'article ci-dessous pour savoir comment postuler. https://qiita.com/kngsym2018/items/2524d21455aac111cdee

Le compte Twitter saisi dans "Synchroniser le compte cible (entrée)" déclenche le tweet et génère des phrases avec des contenus liés au tweet.

De cette façon, "Mock" est réalisé.

Résultat expérimental

Ce qui suit est le contenu effectivement tweeté par Fake Trump. Il n'a pas nécessairement les lignes qu'il est susceptible de dire, mais parfois il dit quelque chose qui correspond à sa position, et est autrement généré avec des sujets qui sont liés à ce qu'il a dit dans le passé. Tu peux voir ça.

Université de l'Alberta Human Kinetics (SHK) L'Université est la principale installation de recherche à haute énergie et à fort impact en sciences, sciences physiques et génie.

Les candidats démocrates n'étaient même pas démocrates, les candidats républicains étaient des conservateurs forts et capables. Tous deux étaient les personnes que j'ai fortement soutenues. Notre pays est excellent pour les deux.

Depuis 2015, les premières grandes opérations militaires américaines contre les militants de l'EI en Syrie et en Irak ont déployé au moins 2 500 forces terrestres supplémentaires, mais la plus extrême du groupe.

Tâche

--GPT-2 peut contrôler la longueur de chaque mot, mais comme il ne peut pas contrôler le nombre de caractères, il ne peut pas être optimisé pour les médias dont le nombre de caractères est sévère comme Twitter. En conséquence, si vous dépassez la limite Twitter de 280 caractères, vous devrez la couper de force.

• La mémoire GPU requise pour le réglage fin est trop grande pour fonctionner avec un GPU pouvant être utilisé par le grand public sur les modèles de 774M et plus. Même la "Geforce GTX 1080 Ti" privée et l'instance AWS P3 "Tesla V100" ne fonctionnaient pas en raison du manque de mémoire. (Un raisonnement normal est possible)

en conclusion

La technologie de génération de phrases basée sur un apprentissage non supervisé à grande échelle devrait continuer à s'améliorer en précision et en même temps passer à la phase d'utilisation dans le monde réel. Nous espérons que cet article et les Mockers pourront contribuer au développement et à la mise en œuvre sociale de l'IA en langage naturel.

P.S. N'oubliez pas Hillary.

C'était un argument que j'ai entendu de la part des démocrates du Sénat avant les élections, qui ont dit que cela pourrait arriver s'il s'agissait d'un parti républicain, républicain ou autre.

https://mockers.io