Les émulations du cerveau posent trois questions morales massives et une question effroyablement pratique

Il existe un groupe de scientifiques qui croient que lorsque le corps humain se déforme et que les signes vitaux s’altèrent, l’oubli peut encore être tenu en échec. L'immortalité relève de la fiction, mais l'émulation cérébrale - parfois appelée "mise en ligne de l'esprit" - relève de la science super spéculative. L’idée selon laquelle les systèmes nerveux peuvent être modélisés dans un logiciel afin que des personnalités puissent être allumées (ou rallumées) dans un matériel n’est pas nouvelle, mais elle est plus probable qu’elle ne l’était quand Tron a fait ses débuts en 1981. Certains neuroscientifiques pensent que cela pourrait arriver dans les 50 prochaines années et que la technologie pourrait arriver avant que l'intelligence artificielle ne fonctionne pleinement.

Quand cela arrivera, cela entraînera un nombre important de dilemmes moraux. Et les enjeux sont trop importants pour attendre d’étudier l’éthique.

«Nous ne voulons pas grimper au ciel sur une pile de cadavres», a déclaré Anders Sandberg, neuroscientifique en informatique, sans doute le personnage le plus public de l'émulation cérébrale, lors du congrès international Global Future 2045.

Peut-on reproduire la conscience?

Au cœur de l'émulation cérébrale se trouve la théorie selon laquelle la conscience transférera du cerveau anatomique au modèle logiciel. Dans le rapport «L'émulation du cerveau entier: une feuille de route», Sanderg et son collègue chercheur à l'Université d'Oxford, Nick Bostrom, écrivent qu'un émulateur de cerveau serait «suffisamment détaillé et correct pour produire les effets phénoménologiques d'un esprit» - c'est l'expérience et la conscience, vues davantage une vue philosophique que toute autre chose.

Scientifiquement, la conscience est mise en évidence par des schémas d'activité électrique. Mais c’est finalement plus compliqué que cela; il y a un élément métaphysique. Les animaux et les humains, dans certains contextes, sont considérés comme conscients s'ils affichent des sens comme la sentience, la vigilance et la conscience de soi. Mais il est difficile d’avoir une discussion plus longue sur la conscience sans parler de l’âme.

Plutôt que de tenter de savoir si la conscience numérique peut répondre aux théories biologiques ou psychologiques de l'identité, Michael Cerullo de la Brain Preservation Foundation affirme que l'émulation du cerveau nous obligera à créer une nouvelle définition de la conscience. Dans un article de 2015, il décrit cela comme une «identité de branchement psychologique», un état dans lequel «la conscience continuera tant qu'il y aura une continuité dans la structure psychologique».

«Nous sommes poussés à accepter la possibilité que l'identité personnelle puisse se diviser en plusieurs copies, chacune préservant une continuité de conscience avec l'original», écrit Cerullo dans le journal. Esprits et machines. "Nous sommes à un moment unique de l'histoire où nous devons prendre des décisions concernant l'avenir de l'humanité sur la base de notre meilleure compréhension de la philosophie de l'esprit et de la conscience."

Mais les émulations vont-elles répliquer ou héberger les réplicateurs? Après avoir téléchargé une publication, resterez-vous toujours chez vous? Il n’ya aucun moyen de savoir.

Sommes-nous d'accord pour tuer beaucoup d'animaux testés?

Le développement de l'émulation cérébrale nécessitera certainement l'utilisation d'animaux de test. Sandberg prédit que les premières tentatives seront faites sur des animaux avec un système nerveux bien défini, comme les escargots de bassin et les mouches des fruits, puis sur les animaux de laboratoire vertébrés, comme les souris. Il est en fait juste de penser que les souris seront les premières créatures à émuler leur cerveau: l'Union européenne a investi plus d'un milliard d'euros dans le projet Human Brain, qui tente d'imiter pleinement le cerveau d'une souris et certaines parties du cerveau humain. d'ici 2023.

Certains ont fait valoir que le coût de l'utilisation des animaux à des fins expérimentales est compensé par les rendements scientifiques. Mais s’arrêter pour déterminer s’il en vaut la peine, quand l’expérimentation risque fort de ne mener à rien, c’est important. Sandberg écrit: «Les théories indirectes soutiennent que les animaux ne méritent pas de considération morale, mais que l'effet des actions humaines sur eux a de l'importance…. Nos devoirs envers eux ne sont que des devoirs indirects envers l'humanité.

Les émulations sont-elles égales?

Il y a un argument selon lequel il vaudra la peine d'apprendre à imiter un cerveau, afin que des recherches futures puissent être faites sur des cerveaux imités. Mais cela soulève la question suivante: une émulation a-t-elle le même poids moral qu'un "vrai" animal ou humain? Dans certains scénarios, l’émulation du cerveau est un moyen de développer la conscience, mais dans d’autres, elle crée une sous-espèce de créatures sensibles.

Dans Être personne, le neuroéthicien Thomas Metzinger s'interroge sur la façon dont les émulations du cerveau humain pourraient se réaliser sans dépasser sérieusement les limites de l'éthique. Il écrit:

«Ce que les comités d’éthique d’aujourd’hui ne voient pas, c’est comment les premières machines qui satisfont à un ensemble de contraintes minimal pour une expérience consciente pourraient être comme des nourrissons retardés mentaux. Ils souffriraient également de toutes sortes de déficits fonctionnels et de représentation. Mais maintenant, ils feraient également l'expérience subjective de ces déficits. De plus, ils n'auraient aucun lobby politique, aucun représentant dans aucun comité d'éthique."

Et si on fait Pour créer avec succès des émulations de cerveau, nous pourrions hypothétiquement les forcer à travailler pour nous. Carl Shulman du Machine Intelligence Research Institute prédit que le développement de logiciels intelligents dotés de cerveaux imités remplacerait le travail humain, doublant ainsi la taille des économies, mais faisant aussi baisser les salaires des êtres humains. Cela pourrait également conduire à des pratiques assez foutues.

«Le logiciel d'émulation du cerveau pourrait être modifié pour imiter l'effet des médicaments, de la neurochirurgie, des modifications génétiques et d'autres interventions», écrit Shulman. "Des expériences avec de telles altérations rendraient probablement les émulations avec une déficience intellectuelle ou une maladie mentale dans la plupart des cas, mais pourraient dans certains cas améliorer la productivité."

Pouvons-nous supporter le risque?

Les émulations du cerveau pourraient devenir nos maîtres au lieu de nos serviteurs. Dans son article, Shulman propose également un avenir qui, si le processus technologique n’est pas contrôlé avec soin, «des esprits qui se répliquent rapidement et qui évoluent pourraient provoquer l’extinction humaine». Ce seraient des superorganismes comme celui de Johnny Depp dans Will Caster. Transcendance - hyper intelligent et omniprésent.

C’est l’avenir possible de télécharger des cerveaux à des fins de pouvoir - et, avouons-le, les personnes qui veulent vivre pour toujours sonnent étrangement mégalomanes. Lors de la conférence Transhuman Visions 2014, le neuroscientifique Randal Koene a déclaré à la foule: en tant qu'espèce, nous avons besoin d'être «efficace, influent et créatif dans un domaine beaucoup plus vaste». Il reste à voir si les améliorations humaines existantes dans ce domaine signifie par conséquent la fin de l'humanité.