Westworld, l'émotion et le dilemme de la conscience de la machine

Source: John P. Johnson / HBO

Dans la série à succès de HBO, Westworld , les hôtes androïdes jouent des scripts soigneusement conçus pour divertir les riches clients du parc d'attractions. Tout est répétitif comme d'habitude jusqu'au jour où l'architecte en chef du parc introduit une nouvelle fonctionnalité dans la programmation des hôtes androïdes dans l'effort continu de rendre les expériences qu'ils offrent plus réalistes et réalistes. C'est quand tout change.

Avec ce nouveau programme, les hôtes commencent à se comporter de plus en plus étrangement. Presque comme s'ils se réveillaient d'un rêve. En fait, ce n'est pas si loin de la vérité, car à partir de ce moment jusqu'à la fin de la saison, les hôtes se «réveillent» dans la conscience.

À bien des égards, Westworld est le véhicule idéal pour explorer les dilemmes de la conscience. Un réaménagement presque complet du thriller de science-fiction Michael Crichton de 1973 du même nom, Westworld est un parc d'attractions technologiquement miraculeux dans lequel des «invités» humains interagissent avec des «hôtes» androïdes réalistes. Bien qu'incroyablement réalistes, ces hôtes sont considérés dès le départ manquer de conscience suffisante pour être considéré comme vivant. Ce sont de simples automates, exécutant des scripts aussi mécaniquement que le piano joueur du saloon. Ils n'existent que pour réaliser des intrigues élaborées pour le divertissement d'invités blasés et aisés qui cherchent un soulagement de leurs propres existences ennuyantes et de plus en plus déshumanisantes.

Cependant, afin d'offrir des améliorations continues pour les invités du parc (entre autres raisons), le co-architecte de ce monde, Robert Ford (joué par le brillant Anthony Hopkins) introduit une nouvelle fonctionnalité subtile aux hôtes: une rêverie . Ces rêveries sont de minuscules gestes répétés liés à une mémoire programmée, une expression synthétisée censée suggérer que chaque hôte a sa propre histoire émotionnelle. Les rêveries sont prétendument destinées à parfaire l'illusion que ces androïdes sont aussi humains que vous ou moi. En fait, cela marque le début de leur transition vers des êtres pleinement conscients et conscients.

• Power Role Play: S'habiller pour le succès vous donne du succès
• Le pouvoir des pratiques minuscules
• Dans l'esprit du Premier ministre britannique Theresa May
• La psychologie de l'expérience dans le monde numérique
• Quatre façons de se sentir mieux sur soi-même

Soulèvement des machines

C'est un moment critique dans la série, tout comme il peut s'agir d'une étape critique qui nous attend dans un avenir pas si lointain: la montée de la conscience machine. Ne vous y trompez pas: malgré les énormes progrès et étapes franchies ces dernières années, l'intelligence artificielle dans le monde réel ne fait que commencer. Ces intelligences continueront à s'accélérer dans leur développement pendant des décennies, voire des siècles. En fin de compte, ils peuvent nous surpasser de loin par presque tous les métriques, détrônant l'humanité de son perchoir de longue date au sommet de l'intelligence. Mais les machines de volonté et de volonté atteindront-elles réellement la conscience? C'est vraiment la grande question .

Pourquoi percevez-vous le monde comme vous le faites? Qu'est-ce qui vous fait réfléchir de votre point de vue? Est-ce que la façon dont vous ressentez chaque sensation et chaque stimulus est la même que tout le monde ou est-ce aussi unique que votre propre empreinte digitale?

Ce ne sont pas de nouvelles questions. Ils ont été au cœur de la pensée philosophique bien avant Descartes et Locke, probablement déclenchés par les origines mêmes de la conscience elle-même.

• Les 3 meilleurs secrets des maîtres communicateurs
• Muscle Memory-Il est dans votre tête, pas vos membres
• La marine des États-Unis et le manifeste communiste
• Pourquoi les périodes de solitude sont-elles si importantes?
• Intelligence collective à l'Holocène – 6

Les mystères de l'expérience et de l'existence ont conduit l'exploration introspective à travers les millénaires, se manifestant par des rituels aussi personnels qu'ouvertes. Peut-être le plus universel de ces rituels est la narration. Cette poussée omniprésente nous permet d'explorer les grandes questions de notre existence, ouvrant des fenêtres sur nous-mêmes comme aucune autre.

Depuis plus d'un siècle, nous avons manifesté notre obsession de la narration par des moyens de plus en plus technologiques: les séries radiophoniques, le cinéma, la télévision, les jeux vidéo et vraisemblablement bien d'autres encore. Ce sont les miroirs d'aujourd'hui, les médias par lesquels nous explorons notre humanité encore et encore.

En quelques endroits, cela a été si évident que reflété dans le miroir de la science-fiction récente. Nous avons à plusieurs reprises tourné ce regard sur nous-mêmes pour examiner les menaces et les angoisses que nous voyons se manifester en cette ère d'émerveillement technologique. Les inquiétudes croissantes au sujet de la perte de nos moyens de subsistance à la technologie, les machines et les logiciels de plus en plus capables avec lesquels nous nous entourons nous ont donné de nouvelles préoccupations existentielles. Ces technologies continuent de croître à pas de géant sans aucune fin évidente en vue. Alors que se passe-t-il quand même la conscience elle-même n'est plus unique? Que se passe-t-il quand le dernier bastion de l'exceptionnalisme humain supposé tombe?

Bien sûr, il est facile d'adopter une vision réductionniste de nos propres cerveaux et de dire que, bien sûr, les machines deviendront un jour conscientes. Il est presque aussi facile de dire qu'il doit y avoir quelque chose d'essentiel, quelque chose de vital dans notre fonctionnement interne qui rendra impossible la reproduction de la pensée consciente, que cela dépende d'une âme déifiée ou d'une caractéristique inconnue de la dynamique neuronale naturelle. Le fait est que nous ne le savons tout simplement pas encore.

La mise en scène

Ce que nous savons, c'est que des progrès continueront d'être faits et que la vraisemblance de ces systèmes augmentera. Comme il est explicitement et implicitement affirmé dans Westworld, si l'objet de notre attention devient suffisamment réaliste dans son émulation de la conscience, nous comblerons les lacunes pour maintenir l'illusion. L'objet n'a pas besoin d'être vraiment conscient pour nous conférer la conscience, bien que nous puissions le faire à un niveau subconscient. C'est un aspect important de notre propre intelligence. En tant qu'efficacité acquise sur le plan évolutif, si quelque chose nous semble avoir de la volonté et du libre arbitre, nous avons appris à lui donner le bénéfice du doute. Pour nos premiers esprits en évolution, ce comportement indiquait un certain niveau de sensibilisation et nous avons appris que nous ferions mieux de respecter cela. Ce n'était pas simplement une question d'économie; nous l'avons fait en fonction de la survie. Mieux vaut attribuer ces caractéristiques et anticiper un certain niveau de menace afin de survivre, que de ne pas le faire et potentiellement être tué et mangé.

Nous avons donc une prédilection à agir comme si quelque chose était conscient malgré la connaissance et l'expérience qui nous dit le contraire. Voitures, bateaux, Tamagotchis et Furbies, nous tombons facilement dans des habitudes qui voient ces machines comme des acteurs conscients, même si nous savons mieux. Peu importe que la technologie ne nous ressemble pas, même si cela aide aussi. Comme le souligne le professeur Sherry Turkle du MIT, beaucoup de ces dispositifs poussent nos «boutons darwiniens». En d'autres termes, parce que certaines caractéristiques ou actions nous rappellent nous-mêmes, nous nous tournons instinctivement vers certains comportements parce que c'est plus efficace. d'un point de vue évolutionniste.

Ceci est soutenu par les observations faites par les professeurs de Stanford Clifford Nass et Byron Reeves, dans leur livre "The Media Equation". Nous avons aussi tendance à vouloir interagir avec une grande partie de notre technologie comme s'il s'agissait d'un acteur social. la personne. Je maintiens que c'est une des raisons pour lesquelles nous continuons à concevoir et à développer des interfaces informatiques de plus en plus naturelles. Nous voulons que nos technologies interagissent avec nous selon nos propres termes, et non l'inverse. La reconnaissance des gestes, les écrans tactiles, l'activation de la voix, tout cela progresse dans cette direction. Nous continuons maintenant cette tendance alors que nous entrons dans l'ère de l'informatique affective – des ordinateurs et des robots capables de lire, d'interpréter et même d'influencer nos émotions. Le domaine connaît une croissance rapide et devrait presque quintupler le revenu mondial au cours de la seconde moitié de cette décennie.

Dans mon nouveau livre, Cœur de la machine: notre avenir dans un monde d'intelligence émotionnelle artificielle, j'explore nombre des changements et des répercussions possibles que nous réserve le développement de ces technologies émotionnelles. Mais peut-être qu'aucun de ceux-ci n'est si critique pour notre futur que le développement potentiel de la conscience machine. En fait, il y a de nombreuses raisons pour lesquelles la conscience émotionnelle pourrait être essentielle dans le développement des futures intelligences artificielles, tout comme elle a pu être vitale dans la montée de notre propre conscience et de notre introspection. C'est une idée que nous explorerons plus loin dans la partie II de cet article demain.