Par l’Institut de recherche en neuroscience du Wexner Medical Center de l’Ohio State University et le Centre Stanley D. et Joan H. Ross pour la santé et la performance cérébrales
Les nouvelles recherches sur le cerveau alimentent des percées dans des domaines aussi divers que la santé et l’informatique. Dans le même temps, ces avancées peuvent mener à des dilemmes éthiques dans les décennies à venir, voire dans certains cas beaucoup plus tôt. La neuroéthique a fait l’objet d’une discussion lors du récent sommet sur la santé et les performances cérébrales, présenté par l’Institut de recherche en neurosciences du Wexner Medical Center de l’Ohio State University et le Centre Stanley D. and Joan H. Ross.
John Banja, Ph.D., professeur au Département de médecine de réadaptation et éthicien médical au Center for Ethics de l’Université Emory, a expliqué comment les connaissances en neurosciences pouvaient permettre de développer des programmes informatiques hyper-intelligents. En même temps, notre compréhension approfondie du cerveau révèle les lacunes inhérentes à l’intelligence artificielle (IA) la plus avancée.
“Comment allons-nous programmer un ordinateur pour avoir le genre d’expériences d’apprentissage et de connaissances de la navigation que les gens ont dans la vie elle-même?”, A demandé Banja. Il s’est demandé s’il serait toujours possible de créer (IA) capable d’imagination au niveau humain ou de raisonnement moral. En effet, pourrait-il être possible pour un programme informatique de reproduire les processus que le cerveau humain applique à des situations complexes, s’interroge Banja. À titre d’exemple, il a posé un dilemme éthique à l’auditoire: un hôpital doit-il respecter le désir d’une femme de préserver le sperme de son défunt même si le mari n’a jamais consenti à une telle procédure? À main levée, la question divise l’auditoire rempli de scientifiques et de personnel médical. Banja doute que l’on puisse faire confiance à un ordinateur pour résoudre des problèmes qui divisent même les êtres humains les plus qualifiés. “Comment allons-nous programmer un ordinateur pour penser comme ça?”, A déclaré Banja, faisant référence au processus de travail sur son hypothétique. “Ils sont bons en reconnaissance d’image, mais ils ne sont pas très bons pour attacher un lacet.”
Les faiblesses morales de l’IA présentent un certain nombre de possibilités inquiétantes, d’autant plus que la technologie nécessaire pour créer des ordinateurs performants deviendra bientôt une réalité. “La super-intelligence artificielle pourrait être la dernière invention que les humains aient jamais faite”, a averti M. Banja. Les ordinateurs hyper-intelligents pourraient commencer à voir la vie humaine comme une menace et à acquérir ensuite les moyens de l’exterminer, sans jamais être contrôlés par des sentiments humains de doute ou de remords.
Selon Eran Klein, MD, Ph.D., neurologue et éthicien à l’Oregon Health & Science University et au Center for Sensorimotor Neural Engineering de l’Université de Washington, les neuroscientifiques et autres professionnels de la santé cérébrale sont désormais confrontés à des questions beaucoup moins abstraites. Il pense que l’apocalypse de l’IA reste un scénario très lointain. Mais les patients reçoivent déjà des traitements non pharmaceutiques susceptibles de modifier leur humeur et leurs perspectives, comme les implants cérébraux destinés à lutter contre la dépression. Les traitements pourraient potentiellement changer la vie, ainsi qu’un traitement plus sûr et plus efficace que les médicaments traditionnels. Cependant, ils pourraient également fausser le sentiment d’identité d’un patient. “Les patients estimaient que ces appareils leur permettaient d’être plus authentiques”, a expliqué Klein. “Cela leur a permis d’être la personne qu’ils ont toujours voulu être ou n’ont pas réalisé qu’ils pourraient être.”
Néanmoins, les traitements avaient faussé la conception de certains patients de leur propre identité, les rendant incertains des limites entre les implants cérébraux et leur propre libre arbitre. “Il y avait des préoccupations concernant l’agence”, a déclaré Klein. “Les patients ne savent pas si ce qu’ils ressentent est dû à eux-mêmes ou à l’appareil.” Par exemple, Klein a décrit un patient qui assistait à un enterrement et ne pouvait pas pleurer. “Il ne savait pas si c’était parce que l’appareil fonctionnait ou parce qu’il n’aimait pas cette personne autant qu’il le pensait”, a expliqué Klein. Au fur et à mesure que la technologie s’améliore, Klein prévoit que les patients et les médecins devront trouver un équilibre entre les avantages de certaines techniques et leur possible effet sur le sentiment de soi.
Ce n’est pas là que les grandes questions vont se terminer. Pour James Giordano, Ph.D., chef du programme d’études en neuroéthique du Centre Pellegrino de bioéthique clinique au centre médical de l’Université de Georgetown, la neuroscience pourrait changer la manière dont la société aborde des questions cruciales de la nature humaine – ce qui pourrait avoir des implications majeures pour le droit. la vie privée et d’autres domaines qui ne sembleraient pas avoir de lien direct avec la santé du cerveau. Giordano a prédit qu’un nouveau domaine de la «neuro-loi» pourrait émerger, avec des scientifiques et des juristes contribuant à déterminer le statut approprié des neurosciences dans le système juridique.
Quand, par exemple, la compréhension neurologique du comportement humain devrait-elle être un argument admissible pour l’innocence d’un accusé? Les neurosciences permettent une compréhension granulaire du fonctionnement de chaque cerveau – ce qui crée une mine d’informations que le domaine médical pourrait abuser. “Les sciences du cerveau sont-elles préparées pour nous protéger ou, d’une certaine manière, notre vie privée est-elle contestée?”, A demandé Giordano. Faisant écho à Klein, Giordano se demandait si la science du cerveau pouvait facilement rendre la personnalité et le sens de soi d’une personne faciles à façonner, potentiellement contre la volonté du patient ou s’il ne comprenait pas les implications d’une thérapie donnée. “Pouvons-nous” abolir “la douleur, la tristesse, la souffrance et développer les capacités émotionnelles ou morales cognitives?”, A demandé Giordano. Les neurosciences pourraient créer de nouvelles bases de normalité médicale ou comportementale, changeant ainsi notre idée de ce qui est ou n’est pas acceptable. “Quelle sera la nouvelle culture lorsque nous utiliserons les neurosciences pour définir ce qui est normal et anormal, qui est fonctionnel et dysfonctionnel?”
Giordano a prévenu qu’avec l’amélioration rapide de la technologie, le besoin de réponses deviendra de plus en plus urgent. “Réalité”, a déclaré Giordano, “Ce genre de choses arrive.”
