Ce que nous ne devrions pas apprendre du film HER

Si vous avez vu le film HER , continuez à lire. Si non, alerte spoiler.

Les gens tombent amoureux. C'est l'un des centres de la vie. C'est l'étoffe des films. C'est ce film avec une torsion. Il (Théodore) et Elle (Samantha) tombent amoureux. Theodore est une personne. Samantha est un système d'exploitation. Elle a une voix formidable: chaleureuse, engageante, réfléchie et séduisante.

Est-il possible maintenant – ou dans un proche avenir – que les gens aient des relations amoureuses avec les systèmes informatiques numériques?

Une partie de la réponse dépend de ce que sont réellement ces systèmes. Est-ce que les systèmes numériques IA (Intelligence Artificielle) peuvent connaître une autre personne? Peuvent-ils savoir quelque chose? Bien sûr, dans un sens, ces systèmes "savent" déjà beaucoup. Ils savent ce que nous achetons, qui nous textons, ce que nous écrivons, ce que nous cherchons en ligne, où et quand nous conduisons, qui nous appelons, notre histoire d'emploi, nos dossiers médicaux … la liste s'allonge encore et encore. Mais peuvent-ils nous connaître dans un sens plus profond? Et par là je veux dire, peuvent-ils savoir comme une entité consciente?

• Conscience de soi et langage: Dire "oui" à "non"
• Life on Furlough: Votre vie peut continuer si vous ne vous présentez pas?
• La Chine crée-t-elle des futurs leaders brillants et pourtant endommagés?
• Les lois de l'attachement
• Le feu du moteur de la BA fait peur, mais les pilotes suivent la procédure

Sur cette question, je suis largement la position de John Searle. En effet, alors qu'en principe il n'y a aucune raison de croire que la conscience ne pourrait pas apparaître dans d'autres milieux en dehors d'un cerveau biologique, il n'y a aucune évidence ou raison de croire que la conscience puisse ou émergera dans le calcul numérique. Pour défendre cette position, Searle (1990) met en place ce qu'il appelle l'expérience de pensée chinoise:

"Considère une langue que tu ne comprends pas. Dans mon cas, je ne comprends pas le chinois. Pour moi, l'écriture chinoise ressemble à tant de gribouillis sans signification. Supposons maintenant que je sois placé dans une pièce contenant des paniers pleins de symboles chinois. Supposons aussi qu'on me donne un livre de règles en anglais pour faire correspondre les symboles chinois avec d'autres symboles chinois. Les règles identifient entièrement les symboles par leurs formes et n'exigent pas que je les comprenne. Imaginez que les gens à l'extérieur de la salle qui comprennent la main chinoise dans de petites grappes de symboles et que, en réponse, manipulent les symboles selon le livre des règles et remettent plus de petites grappes de symboles. Maintenant, le livre de règles est le «programme informatique». Les personnes qui l'ont écrit sont des «programmeurs» et je suis «l'ordinateur». Les paniers pleins de symboles sont la 'base de données' … .Maintenant, supposons que le livre de règles soit écrit de telle manière que mes 'réponses' aux 'questions ne puissent être distinguées de celles d'un locuteur natif chinois … .Tous les mêmes, je Je suis totalement ignorant du chinois. Et il n'y a aucun moyen que je puisse arriver à comprendre le chinois dans le système comme décrit, car il n'y a aucun moyen que je puisse apprendre la signification de l'un des symboles. Comme un ordinateur, je manipule les symboles, mais je n'attache aucune signification aux symboles. "(P.26)

En d'autres termes, parce que les systèmes computationnels comme Samantha ont une syntaxe mais pas une sémantique (signification), ils ne peuvent jamais "rien" savoir. Le comportement est là, mais pas le savoir. Donc, à partir de cette position, Samantha est faux.

• La liberté de profiter d'un fonctionnement sécurisé
• Pourquoi y a-t-il si peu de femmes dans la science, suite
• Un Moratoire électronique-bonne ou mauvaise idée pour votre adolescent?
• Mourir pour dormir
• Accéder à votre intelligence créative

Mais alors la question est de savoir si nous pouvons avoir des effets psychologiques similaires en interagissant avec des systèmes de faux. Je pense que la réponse est que nous pouvons obtenir certains des effets psychologiques (et des avantages). Cela fait partie de mon corpus de recherche sur la nature technologique. Mais nous ne pouvons pas obtenir tous les effets psychologiques. Et nous ne pouvons pas obtenir les plus profonds, les plus beaux. Bien sûr, c'est une question empirique. J'ai peut être tort. Donc, une partie de ce que j'ai essayé de faire ressortir dans mes écrits et mes recherches universitaires, c'est que nous tenons le technologue – et la société en général – ce que j'appelle les «repères psychologiques» appropriés. Les repères de, disons, la réciprocité , l'authenticité, ou dire la relation Je / Tu de Buber. Pour connaître et être connu. Comme c'est beau! C'est une base pour l'amour. C'est l'une des parties les plus profondes de la vie humaine. Si Samantha n'a pas vraiment conscience, elle ne peut pas connaître Théodore. Je pense qu'Elle illustre à un niveau profond que même lorsque Theodore affiche tant de comportements qui sembleraient indiquer un véritable amour réciproque vrai, il ne l'a pas réellement.

Ce que nous ne devrions pas apprendre du film HER ? Cette interaction avec de fausses personnes computationnelles nous satisfera profondément et nous nourrira.

Si je me trompe, beaucoup d'entre nous considèrent la relation entre Theodore et Samantha comme vide et un peu effrayante, alors je ne suis pas sûr que nous reconnaissions à quel point notre propre monde s'est déplacé de cette façon. Twitter Facebook Nation. Gamer Nation. Nous créons un monde où les gens sont de plus en plus socialement autistes, si je peux utiliser cette expression. Et nous ne savons pas à peine que nous faisons cela.

Dans le dernier chapitre de mon livre 2011, La nature technologique: l'adaptation et l'avenir de la vie humaine , je regarde comment nous avons évolué au cours des 50 000 dernières années, puis je spécule sur ce qui est possible en termes d'adaptation à une technologie de plus en plus computationnelle. monde. Nous sommes des êtres biologiques incorporés, et bien que nous puissions nous adapter à un monde de plus en plus technologique, toutes nos adaptations ne sont pas bonnes pour nous. Les éléphants s'adaptent aux conditions d'un zoo. Mais ils ne prospèrent pas comme les éléphants. Ils piétinent leurs pieds pendant des heures dans un comportement névrotique. Et puis ils s'émoussent, et deviennent des coquilles largement vides de leur ancien moi. Je pense que nous devons prêter une attention particulière à ce dont nous avons besoin en tant qu'êtres humains pour prospérer en tant qu'espèce.

Nous avons besoin d'interactions réelles, authentiques et réciproques avec d'autres humains. Le film HER se termine avec un avant-goût de cela sur le toit. Quel soulagement! Là nous assistons à l'intimité ténue d'un homme biologique et d'une femme biologique respirant ensemble pendant une minute, se connectant pour de vrai. Connaître et être connu. Pour de vrai. Peu importe ce que cela signifie, nous le savons.

Les références:

Kahn, PH, Jr. (2011). Nature technologique: Adaptation et avenir de la vie humaine. Cambridge, MA: Presse MIT.

Kahn, PH, Jr., Ishiguro, H., Friedman, B., Kanda, T., Freier, NG, Severson, RL, et Miller, J. (2007). Qu'est-ce qu'un humain? – Vers des repères psychologiques dans le domaine de l'interaction homme-robot. Etudes d'interaction: Comportement social et communication dans les systèmes biologiques et artificiels, 8, 363-390.

Searle, JR (1990). L'esprit du cerveau est-il un programme informatique? Scientific American, 262 (1), 26-31.