Le projet OpenAI d'Elon Musk a identifié 4 gros problèmes pour l'IA

La plupart des problèmes pouvant résulter d’une intelligence artificielle de plus en plus sophistiquée sont beaucoup plus subtils que SkyNet, mais cela ne veut pas dire plus intelligents. ne vient pas sans risques.

C’est pourquoi Elon Musk et d’autres férus de la Silicon Valley ont formé Open AI, un groupe voué à la résolution des problèmes liés à A.I. avant de pouvoir causer de réels dommages. Ce groupe s’appelle OpenAI et cherche de l’aide sur ces questions.

«OpenAI est une société de recherche en intelligence artificielle à but non lucratif», déclare le groupe sur sa page À propos. "Notre objectif est de faire progresser l'intelligence numérique de la manière la plus susceptible de profiter à l'ensemble de l'humanité, sans contrainte de générer un retour financier."

Une offre d'emploi déguisée en blog intitulée «Projets spéciaux» décrit quatre de ces «projets» comme des problèmes ayant «des implications très larges» ou des «conséquences émergentes importantes du développement de l'intelligence artificielle». Et puis ses auteurs - Ilya Sutskever, Dario Amodei et Sam Altman - invitent tout expert en apprentissage automatique à «faire un effort sur l'un de ces problèmes chez OpenAI». Soumettez simplement une application, demandent-ils. Voici ces quatre grands problèmes de l'intelligence artificielle:

Trouver des systèmes d'IA secrets.

Ce qui est pire qu’un très intelligent A.I. qui peut être utilisé à des fins erronées? Un très intelligent A.I. qui a déjà été utilisé à mauvais escient sans que personne ne le sache. «À mesure que le nombre d'organisations et de ressources affectées à la recherche sur l'IA augmente, la probabilité qu'une organisation fasse une percée non révélée et utilise le système à des fins potentiellement malveillantes augmente», écrit l'équipe d'OpenAI dans son blog. «Il semble important de détecter cela. Nous pouvons imaginer de nombreuses façons de le faire - en regardant les actualités, les marchés financiers, les jeux en ligne, etc. »

Construire un A.I. cela peut programmer.

Certains des meilleurs programmeurs sont paresseux. Il est donc logique que OpenAI veuille créer un A.I. capable de créer ses propres programmes. Mieux vaut passer le temps à faire un A.I. assez intelligent pour coder tout ce dont vous pourriez avoir besoin dans le futur que de tout coder vous-même. Nous sommes en 2016 pour crier fort et les codeurs ont besoin d'une pause!

Utiliser A.I. pour la cyberdéfense.

«Une des premières utilisations de l'intelligence artificielle consistera à s'introduire dans les systèmes informatiques», écrit OpenAI. «Nous aimerions que les techniques d’IA se défendent contre des pirates informatiques sophistiqués qui font un usage intensif de leurs méthodes. repose sur les humains pour se protéger contre les cyberattaques.

Faire des simulations très complexes.

«Nous sommes intéressés par la création d’une très grande simulation avec beaucoup d’agents différents capables d’interagir, d’apprendre sur une longue période, de découvrir le langage et d’atteindre un large éventail d’objectifs», écrit l’équipe OpenAI.

Oh, allez. Maintenant, vous essayez simplement de prouver que Musk a raison de vivre dans une simulation.