Citoyenneté robotique: Pourquoi nos assistants artificiels peuvent-ils un jour avoir besoin de passeports

L’année est 2030. Vous venez de recevoir un courrier électronique: L’emploi de vos rêves au Japon vous appartient. Vous commencez à passer des appels téléphoniques, à rechercher le loyer d’appartements à Tokyo et à vous préparer au changement de carrière de votre vie. Un seul problème: votre Siri peut-elle obtenir un visa?

C’est un obstacle potentiel moins tiré par les cheveux que vous ne le pensez. En novembre 2018, le ministre maltais du gouvernement, Silvio Schembri, a annoncé une initiative visant à s'attaquer à des questions telles que le nombre de robots à laisser entrer dans le pays à la fois et plus. Malta.ai a pour objectif de faire de Malte l’un des 10 premiers pays du monde en matière de préparation à l’IA I. avancé. L’une de ses premières tâches consiste à explorer, avec SingularityNET, la manière d’instituer une sorte de test de citoyenneté pour les robots. Le PDG de SingularityNET, Ben Goertzel, a expliqué l’idée quelques jours après l’annonce dans un article de blog. Son but est de s'assurer que, comme les robots et A.I. continuent à devenir plus sophistiqués et autonomes, ils sauront toujours comment respecter et respecter les lois du pays.

«Je sais ce que signifie être citoyen des États-Unis ou de l'Europe», a déclaré Goertzel. Inverse. «Si vous êtes un citoyen américain naturalisé, vous passez un simple test de constitution, de gouvernement, etc. C’est ce que je pensais, quels tests peuvent être donnés à un IA, ou à un robot contrôlé par un I.I., pour qu’il soit raisonnable d’envisager de faire de ce A.I. un citoyen."

Pourquoi Siris futuriste peut avoir besoin d'un passeport

L’initiative touche au cœur des relations de l’humanité avec les machines. Les lois sont conçues pour accueillir les humains et les organisations, les seules capables de prendre des responsabilités. Mais alors que nos ordinateurs passent de serveurs idiots à des configurations sophistiquées capables de passer le test de Turing, les législateurs du monde entier devront examiner comment ces pseudo-personnes fonctionnent dans des systèmes juridiques conçus pour les années passées. Benoît Hamon a fait des robots taxeurs une pièce maîtresse de sa course à la présidence française en 2017, et Andrew Yang est candidat à la présidence américaine sur une plate-forme de «revenu minimum» pour compenser les pertes d'emplois dues à l'automatisation. Le Parlement européen a appelé à des normes éthiques pour guider le développement de telles machines et, aux États-Unis, le philanthrope milliardaire Bill Gates a également réclamé une taxe sur les robots.

Mais comme la frontière entre simple outil et entité de pensée continue de s'estomper, les désignations juridiques séparant vie et artificiel devront évoluer.

De l’avis de Goertzel, il s’agit de développer un programme A.I. qui peut comprendre les lois d'un pays, répondre correctement aux questions concernant ces lois et appliquer ces réglementations à des situations réelles. Cependant, il admet volontiers que le groupe de travail devra affiner ces idées - et qu’il devra peut-être les examiner rapidement.

"L'intelligence artificielle est considérée dans de nombreux milieux comme la technologie la plus transformatrice depuis l'invention de l'électricité", a déclaré François Piccione, conseiller politique du gouvernement maltais. Inverse. "Réaliser qu’une telle révolution est en train de se produire et ne pas faire de son mieux pour s'y préparer serait irresponsable."

Les problèmes de responsabilité commencent déjà à se poser avec les voitures autonomes. Les utilisateurs actuels de demandes de systèmes restent en alerte à tout moment, mais une fois qu'un ordinateur peut prendre le contrôle total, cela soulève un certain nombre de questions.

«L’autonomie, inévitablement, soulève des questions sur la responsabilité», dit Piccione. «Pour illustrer ce point, si une voiture sans conducteur cause un accident, qui ou quoi est responsable? Il peut s'agir du fabricant ou de l'utilisateur du système ou d'autres intermédiaires. Mais la responsabilité pourrait également être attribuée directement et uniquement au robot ou au système lui-même. ”

Les robots maltais ne seraient même pas les premiers à obtenir la citoyenneté. Sophia, le robot humanoïde propulsé par SingularityNET, a reçu la citoyenneté honoraire de l'Arabie saoudite en octobre 2017. Cette cascade était censée susciter une conversation sur les robots dans la société. L’attention de la presse a au contraire attiré l’attention sur le fait que Sophia semblait jouir de plus de droits en Arabie saoudite que les femmes humaines, dans la mesure où elle n’avait pas besoin d’un tuteur en public.

Ce qui soulève bien sûr une question encore plus complexe: dans un monde où Humain droits sont loin d’être résolus, il semble un peu sourd de commencer à discuter des privilèges des robots pour des machines qui n’ont même pas encore été inventées. Mais Goertzel a défendu cette initiative comme «un acte véritablement avant-gardiste et positif de la part du gouvernement saoudien».

Un jeu de marketing?

Les autres experts dans le domaine ne sont toujours pas convaincus. David Gunkel, professeur de la Northern Illinois University, dont le livre Droits de robot considère l’éthique d’accorder de tels avantages aux machines, raconte Inverse La citoyenneté de Sophia portait «principalement sur le marketing», dans le but d’attirer l’industrie de la technologie vers le Sommet sur les investissements futurs du pays. Après tout, il s’agissait uniquement d’une citoyenneté honoraire, qui s'apparentait à un diplôme universitaire honorifique.

«Je n'ai pas encore vu d'argument bien argumenté et / ou convaincant pour accorder à I.I. ou la citoyenneté des robots », dit Gunkel. «Je vois de bonnes raisons d’examiner les questions de personnalité juridique pour AI et les robots, mais c’est un ensemble de questions totalement différent.»

Le problème de la citoyenneté de Siri englobe donc deux débats distincts. Le premier concerne ce qui se passe quand un A.I.fait quelque chose de mal, un débat a déjà lieu autour des voitures autonomes. Mais la seconde est beaucoup plus compliquée: Siri et d’autres commandent le respect au point où la société commence à envisager d’accorder ces droits comme «justes».

«Aucune de ces questions n'exige que les I.I./robots soient des citoyens», déclare Gunkel. «En fait, nous avons déjà répondu à cette question pour une autre catégorie d’entités artificielles - la multinationale. Les sociétés sont des personnes morales aux fins de les soumettre et de les soumettre au droit national et international. Cela a et peut être fait sans accorder la citoyenneté à la société."

Goertzel, cependant, suggère que même la personne morale a ses problèmes. Et si une organisation autonome décentralisée, par exemple une crypto-monnaie, voulait s'enregistrer en tant que société? A-t-il besoin d'un humain pour terminer la tâche?

«L'accent est mis sur la manière de certifier ces systèmes à Malte, ce qui inclurait également des droits et obligations limités», a déclaré Piccione. «En fait, emprunter cette voie ne constituerait pas un nouveau concept, car aujourd’hui les entreprises et autres entités enregistrées sont responsables, mais ont également des droits, par exemple de posséder des biens. Cela pourrait être le même mécanisme que celui utilisé pour les «robots» ou autres. systèmes, y compris les véhicules autonomes."

La citoyenneté devrait-elle aussi imposer des droits non juridiques?

La personnalité corporative ne peut répondre qu’à autant de questions. Gunkel dit que nous vivons dans une «invasion robotique» où les machines «sont maintenant partout et font pratiquement tout». Passer de simples outils à un acteur de la société, leur attribuer le statut d'entités dirigées par l'homme semble mal adapté.

«Je pense que nous devrons examiner - et avons déjà déjà commencé à examiner - la question de la personnalité morale et juridique de A.I. et les robots en dehors du problème de la citoyenneté », déclare Gunkel. "Et ce qui est peut-être pire, je crains que les spéculations sur la" citoyenneté robotique "n'échappent pas aux questions plus immédiates concernant le statut moral et juridique d'AI./robots."

Goertzel prédit qu'une intelligence artificielle au niveau humain pourrait émerger dès 2029. Si cette prédiction est toujours vraie, cela signifie qu'une chose à moitié humaine pourrait être lancée dès 2025. Il ne reste que six ans environ avant que le législateur doive envisager traiter des entités proches de l'intelligence d'un citoyen ordinaire.

Il est moins clair de savoir si la réponse à cette question est la citoyenneté elle-même, mais une chose est sûre: la ligne de démarcation entre l'homme et la machine est sur le point de devenir beaucoup plus floue. Des films comme Sa et Ex Machina explorer l’interaction entre des systèmes d’apparence humaine et la relation résultante. Même si nous résolvons tous les problèmes de visa de Siri, les frontières risquent de ne pas être réglées de différentes manières, au-delà de la simple question juridique.