C'est ce qui arrive quand Donald Trump rencontre l'intelligence artificielle

Bradley Hayes, associé postdoctoral au MIT qui effectue des recherches en robotique, vient de transformer Donald «Drumpf» Trump en robot. Il a programmé un réseau de neurones récurrent - une intelligence artificielle - pour étudier et imiter les discours du candidat républicain.

Le «travail quotidien» de Hayes consiste en «une recherche axée sur le travail en équipe homme-robot: concevoir des algorithmes permettant aux robots de travailler ensemble avec les humains et d'apprendre d'eux afin que les humains puissent être plus sûrs, plus efficaces, plus efficaces dans leur travail». @DeepDrumpf est un «projet parallèle». Il s’inspire en partie du «sketch fantastique» de John Oliver. ("J'espère qu'il verra ça - j'espère qu'il verra ça et l'appréciera.")

Inverse a parlé avec Hayes de cette entreprise patriotique.

Qu'est-ce qui vous a inspiré pour faire @DeepDrumpf?

Cela est né d'une conversation à l'heure du déjeuner avec certains de mes collègues, qui effectuent également des recherches en robotique et traitent de l'apprentissage automatique. Nous parlions de diverses techniques de modélisation statistique pertinentes pour notre recherche.Il se trouve que la même technique utilisée par DeepDrumpf fonctionne dans de nombreux domaines de la robotique, car il s’agit d’une technique de modélisation qui tente d’apprendre la structure d’informations séquentielles, ou données séquentielles. Le langage naturel est un excellent exemple de données séquentielles, dans lesquelles la structure de la phrase est relativement cohérente: il existe des règles et une structure sous-jacente à toutes les données que vous obtenez.

Hériter 100 millions? Et je construis maintenant dans le monde entier. Et j'ai un peu cool.

- DeepDrumpf (@DeepDrumpf) 4 mars 2016

Un autre chercheur à Stanford a écrit un cours sur les réseaux de neurones et a notamment publié un article intitulé «L’efficacité déraisonnable des réseaux de neurones récurrents». Il a donc rédigé cette fantastique introduction à cette technique de modélisation statistique et les gens ont montré qu’il avait ce pouvoir déraisonnable de représenter une structure dans ce type d’écriture de données textuelles de forme libre.

J'ai vu un article comparant la complexité de la parole des différents leaders politiques. L’article parlait de la façon dont Trump utilise un langage plus simpliste, et c’est un succès retentissant auprès de sa population électorale et de ses fans. D’un point de vue politique, c’est vraiment formidable, car cela rend votre message clair et à la portée du public le plus large possible; du point de vue de l’apprentissage automatique, cela signifie que c’est peut-être le modèle le plus facile à réaliser.

Aviez-vous entendu parler d'un langage de codage appelé «Make Python Great Again»?

Vous savez, je l'ai vu hier. TrumpPython ou quelque chose comme ça? J'ai vu ça. J'ai lu un article à ce sujet, je suis allé à leur page GitHub, mais je n'ai pas encore eu le temps de jouer avec. Mais ça a l'air super.

Pouvons-nous apprendre quelque chose sur les tendances linguistiques de Trump, ou quelque chose du genre, de votre A.I.?

Oui, il est possible que, si vous regardez le résultat du modèle, cela indique la structure que le modèle a apprise à partir des données. Ainsi, le type de répétition, le type de choses qui sortent du modèle, vous diront - potentiellement - sur certaines choses inhérentes à ses habitudes de parole et à son message.

Kansas Ils ont tous dit: «Je n'ai besoin de rien. Ils avaient un pays horrible et une infrastructure spéciale, notre pays a besoin de riches.

- DeepDrumpf (@DeepDrumpf) 4 mars 2016

Vous ne pourriez pas nécessairement obtenir cela du compte Twitter lui-même, principalement parce que Twitter ne vous donne que 140 caractères avec lesquels travailler. Et, parce que le modèle ne contient pas beaucoup de données, et aussi en partie parce que les transcriptions sont issues de débats - où les candidats (et en particulier Trump) ont tendance à s’interrompre elles-mêmes - il en résulte des discontinuités dans la sortie.

Il reste encore un peu de travail manuel pour échantillonner un mur de texte de ce modèle, puis le parcourir et sélectionner le meilleur nugget contigu de 140 caractères, puis l’afficher.

C'est ça les affaires. Notre président est Obamacare. maintenant, c’est ce qu’il n’est pas. Merci beaucoup. Nous ne sommes pas une pom-pom girl, nous sommes intéressants

- DeepDrumpf (@DeepDrumpf) 4 mars 2016

Donc, ce n’est pas très passif en ce moment?

Il apprend efficacement en tant que distribution de probabilité et vous pouvez en tirer un échantillon. Cela signifie que vous avez votre modèle et que vous pouvez lui demander une lettre. Et si vous lui demandez assez de lettres, vous obtiendrez des choses qui ressemblent à l’anglais. Ou, mieux encore, certaines ressemblent à des choses que Trump aurait pu dire en réalité - parce que cela avait été conçu pour lui. Le processus général que j’ai suivi est le suivant: j’échantillonnerais 500 ou 1 000 caractères, par exemple. Cela me donnerait juste un mur de texte avec 500 ou 1 000 caractères, je suppose, de légendes, et ensuite, à partir de là, je choisirai simplement le meilleur bloc de 140 caractères qui a du sens. Ou la meilleure phrase qui en ressorte semble pertinente.

Par exemple, hier soir, je l’utilisais pour diffuser le débat en direct sur Twitter. Ainsi, l’une des choses que vous pouvez faire avec un modèle comme celui-ci est que vous pouvez l’amorcer. Ainsi, comme le modèle ne vous attribue qu’un caractère à la fois, il dépend des caractères qui l’ont précédé (les lettres qu’il a précédemment imprimées). C’est ainsi qu’il apprend les mots, comment il capture la structure des phrases et certains éléments de la grammaire.

Supposons que je commence ma phrase par «Romney is» et que je lui demande ensuite les mille prochains caractères. Nous appelons cela l’amorçage. Il produira le résultat souhaité, mais définira la partie initiale de la séquence comme suit: «Romney is…»

Est-ce que cela fait référence à ces tweets avec des phrases entre crochets?

Tout à fait raison.

Romney est un outil. Je veux vous dire ceci. Ils sont probablement la dernière chose dont nous avons besoin chez un dirigeant. Nous ne pouvons pas faire cela.

- DeepDrumpf (@DeepDrumpf) 3 mars 2016

L’une des choses que j’espère espérer faire, une fois le processus un peu plus propre - et cela viendra avec plus de données -, c’est de commencer à le faire interagir avec les autres candidats. Si vous regardez le compte Twitter, il suit les autres candidats principaux. Espérons que cela finira par commencer à leur répondre et peut-être à les mettre au défi. Mais c’est plutôt un projet de week-end.

@realDonaldTrump Ils vont payer maintenant, et ils vont aimer, absolument. Je suis vraiment riche. Oh je veux soutenir et les avoir.

- DeepDrumpf (@DeepDrumpf) 3 mars 2016

Pouvez-vous expliquer ce qu'est un réseau de neurones récurrent dans un langage simpliste et non spécialisé?

Bien sûr, nous allons essayer. Un réseau de neurones, en général, reçoit des données, puis effectue des calculs au centre, ce qui vous donne une sortie. En général, c’est juste un classificateur. Donc, avec certaines entrées, il vous dira à quelle classe cette entrée correspond. Un exemple populaire serait - un réseau neuronal de base - vous lui donnez une image d'un chat et vous voulez qu'il vous dise que - si c'est comme un chat, un chien, un avion ou une voiture - vous voulez il dit: «D'accord, avec une grande confiance, c'est un chat que vous venez de me donner.

C’est donc la tâche de la classification de haut niveau. C'est un concept similaire, mais au lieu d'être un chat, un chien, une voiture, les classes sont les lettres individuelles de l'alphabet et de la ponctuation. Donc, cela prend une entrée, puis il fait des calculs en se basant sur ce qu’il a appris - donc tout l’apprentissage se passe «au milieu», nous l’appellerons - et cela vous donne un classement à la fin. Alors, comme cette lettre.

La chose qui en fait un récurrent Le réseau neuronal est que la sortie des étapes précédentes est introduite dans l’étape suivante dans le cadre du modèle. Le fait que le modèle m’ait donné un «M» alimentera la prochaine analyse du modèle. Alors, cela pourrait vous donner un "a", puis un "k", puis un "e", car il tente de produire "Make America great again", car cela représente beaucoup dans les données.

Êtes-vous particulièrement fier des tweets DeepDrumpf enregistrés jusqu'à présent?

Oui, en fait. J'ai un couple que je n'ai pas encore posté, mais -

Exclusif.

Rires Exactement. Parmi ceux qui sont postés, je suis particulièrement heureux avec «Je ne suis pas ce que l’ISIS n’a pas besoin».

Je suis ce dont ISIS n’a pas besoin.

- DeepDrumpf (@DeepDrumpf) 3 mars 2016

Voyons voir… Je l’ai semé avec «Je ne suis pas raciste, mais…» et la suite a été «… crois-le», ce que j’ai trouvé plutôt excellent. J'allais garder celui-ci pour quand il deviendrait pertinent, s'il devenait pertinent.

Rien de bon ne vient jamais après ces mots.

Préféreriez-vous voter pour Donald Trump ou voter pour @DeepDrumpf?

Je pense qu'il y a des compromis avec chacun de ces choix.