Elon Musk dit que même bénin A.I. Pourrait-on avoir un mauvais résultat?

ELON MUSK, CE QU'ON NE VOUS A JAMAIS DIT !

ELON MUSK, CE QU'ON NE VOUS A JAMAIS DIT !
Anonim

Elon Musk a une peur bien documentée de l’intelligence artificielle. C’est donc sans surprise que le cinéaste Werner Herzog l’a cherché. Lo and Behold: les rêveries du monde connecté.

Mais dans le documentaire de Herzog, la peur de Musc n’est pas toute puissante, Terminateur style A.I. des robots. Au lieu de cela, le nabab de la technologie s'inquiète pour A.I. cela fait tout ce qu'il faut pour accomplir sa tâche.

«Le plus gros risque n’est pas que A.I. développera sa propre volonté », explique Musk dans un court extrait du nouveau film obtenu par Fortune. "Mais il suivra plutôt la volonté de sa fonction d'utilité ou de sa fonction d'optimisation."

Herzog, l'homme qui a fait Grizzly Man, est plus sensible à la nature que les technologies futures. À en juger par les premières bandes-annonces et critiques de la première du documentaire au Festival du film de Sundance en janvier, l’ensemble du documentaire est un peu ludique.

Il est logique que Herzog demande à Musk de mieux comprendre ce que sera le monde à l’avenir. Musk est, après tout, l’homme qui façonne les véhicules électriques autonomes du monde, les voyages dans l’espace et l’apprentissage Reddit-Learning I.I. Dans le cas de A.I., Musk voit une menace autour de chaque ligne de code.

"Si ce n’est pas bien pensé, même si son intention est bénigne", dit Musk, "cela pourrait avoir un résultat assez mauvais".

Prenez A.I. qui gère un fonds de couverture ou un fonds de capital-investissement, suggère Musk. Le seul travail d’A.I. consiste à maximiser le portefeuille du fonds. Cela semble simple et assez innocent. Mais, disons, le A.I. réalise la meilleure façon de faire un Michael Burry / Le grand court montant de l'argent est à court de stocks de consommation, à long terme sur les stocks de défense, et ensuite trouver un moyen de déclencher une guerre (probablement par l'intermédiaire de ses amis A.I. dans le ministère de la Défense)?

Ce n'est pas cette là-bas d'une idée. C’est un peu une pente glissante, mais pas inimaginable. Bien sûr, cela ne se produira pas si les humains se contentent de suivre les conseils de Musk et d’utiliser la dentelle neurale pour s’intégrer parfaitement à A.I.

Et voilà sera disponible dans certains cinémas et sera disponible sur Amazon, Google Play et iTunes le 19 août.