Cela fait 20 ans et deux nouvelles technologies ont été mises en ligne , BEVRE (divertissement cérébral à réalité virtuelle intégrée) et PAGI (intelligence artificielle générale personnelle), un système d’intelligence artificielle qui tire les leçons de vos interactions, automatisant autant que possible votre comportement. afin que vous puissiez passer à travers la vie sur le pilote automatique.
Vous avez acheté les deux systèmes dès leur sortie, il y a environ 10 ans. Ils se complètent. Vous voulez la liberté de dormir ou de consulter, en vous échappant dans BEVRE quand vous le souhaitez. Une grande partie de votre vie est fastidieuse. Vous préférez téléphoner quand vous le pouvez, alors vous voulez bien sûr que PAGI automatise tout ce qu’il peut.
Il y a environ 18 ans, vous utilisiez très tôt les voitures autonomes pour la même raison. La conduite est fastidieuse. Vous vouliez une voiture autonome pour libérer votre esprit et vous laisser errer. PAGI est comme ça pour tout ce qui concerne votre vie quotidienne, votre travail, votre vie sociale, votre vie de famille.
Le problème, c’est que vous utilisez PAGI depuis dix ans maintenant. Vous espériez que tout serait automatisé, mais ces messages d’intervention du conducteur vous inviteront à outrepasser l’automatisation lorsque PAGI est tombé sur une interaction qu’il ne peut pas encore automatiser. C’est embêtant de devoir continuer à surveiller. C’est dommage que PAGI n’automatise pas tout. Vous souhaitez que cela fonctionne mieux.
Un futurisme farfelu? Essayez de changer de rôle.
PAGI est votre esprit. Votre esprit automatise déjà tout ce qu’il peut, transformant les réponses en habitudes, en savoir-faire, en tout ce que vous pouvez faire sans y penser, en laissant votre esprit libre d’être diverti par la rêverie ou autre. Ce serait pratique si votre esprit pouvait tout automatiser, mais non, vous rencontrez toujours de nouvelles circonstances qui ne peuvent pas être automatisées.
Votre esprit n’est pas un ordinateur mais c’est un peu comme un programmeur. Vos habitudes sont comme des programmes informatiques générés par votre esprit qui, à l’instar de PAGI, tente de tout automatiser, mais pas à sa capacité. Il reste tous ces domaines de votre vie où les choses sont trop incertaines, imprévisibles, incertaines. Votre esprit continue à être convoqué pour faire face aux incertitudes. C’est agaçant, mais c’est la vie.
Vous avez peut-être entendu dire que votre esprit est un ordinateur. C’est une notion populaire de nos jours, même l’idée dominante dans le travail sur l’intelligence artificielle et plus encore, les sciences cognitives, la philosophie, même la vie et les sciences sociales. Mais c’est faux. Votre esprit n’est pas un ordinateur.
Cette notion erronée résulte d’une confusion bâclée. La physique classique est cohérente en interne. Il n’y a pas de miracles ou de contradictions dans la physique classique. Les mathématiques sont conçues avec pour objectif la cohérence interne, la prévention de toute contradiction interne. Ce n’est pas parfait (exemple: la preuve de Gödel) mais suffisamment proche pour nous donner l’impression de cohérence interne. Et les ordinateurs sont également conçus pour la cohérence interne. Un ordinateur qui se contredirait se verrouillerait.
Rien d’un organisme ne viole la physique classique. Nous pouvons modéliser certains comportements de vie avec des mathématiques ou des ordinateurs. En d’autres termes, nous pouvons simuler les habitudes fiables d’êtres vivants avec des mathématiques ou des ordinateurs. Est-ce que cela signifie que nous sommes des ordinateurs? Les êtres vivants sont-ils des calculs?
Vous avez probablement déjà entendu dire auparavant, la carte n’est pas le territoire. Vous pouvez modéliser quelque chose sans capturer la nature réelle de ce quelque chose. Les cartes et les territoires sont statiques et dynamiques. Nous voudrions peut-être dire que les directions modélisées ne sont pas celles du monde réel. Quand on dit que les cerveaux sont calculés, c’est pire. Les maths ne sont pas le territoire. La cartographie n’est pas le territoire. Que nous puissions modéliser les habitudes humaines avec le calcul ne signifie pas que les humains font du calcul. Il est vrai que les esprits ne violent jamais les lois de la physique. Mais nous ne sommes pas des ordinateurs.
Pourtant, nous aimerions être dans la mesure du possible. C’est le but de l’exercice de science-fiction. L’esprit n’est pas un ordinateur, mais quelque chose qui ressemble au générateur d’automatisation PAGI. Tout ce qui devient suffisamment fiable pour que nous puissions le gérer automatiquement, nous le faisons. La conscience ou l’activité de l’esprit est comme PAGI. Il traite des surprises, de l’imprévu et dans la mesure du possible, il tente de faire en sorte que l’attendu inattendu se traduise par des habitudes fixes et fiables, de sorte que nous puissions retrouver notre esprit, libre de faire face à d’autres interactions inattendues ou simplement de nous détendre ou de rêvasser.
C’est ce que l’on entend par lenteur par opposition à pensée rapide. Penser vite, c’est courir par habitude. Réfléchir lentement consiste à composer avec les circonstances surprenantes et surprenantes qui n’ont pas encore été traduites en habitudes, ce que l’esprit n’a pas encore transformé en habitudes d’algorithmes ressemblant à celles d’un ordinateur. Penser lentement, ce sont les doutes et les délibérations de l’esprit; penser vite, c’est la confiance en soi.
La tendance à supposer que les esprits sont des ordinateurs n’est pas simplement motivée par la confusion négligée décrite ci-dessus. C’est aussi motivé par un désir humain naturel. Bien que beaucoup de gens en nous pensent que notre esprit est un ordinateur, il y en a beaucoup que nous aimons aussi. Appelez cela robo -envy , le souhait que nous puissions être comme des ordinateurs.
Pensez à tous les avantages d’être un ordinateur. Vous connaissez beaucoup de choses que vous souhaiteriez faire mais que vous ne connaissez pas encore. Vous vous dites de le faire, mais vous n’êtes pas encore là. Cela inclut toutes les compétences que vous comprenez en théorie mais que vous n’avez pas encore mises en pratique, ainsi que toutes les habitudes de pensée et d’émotion que vous vous dites d’utiliser mais que vous n’employez pas. Vous vous dites d’être patient, gentil, aimant, acceptant, mais votre intestin est têtu. Il ne suffit pas de lui dire quoi faire. Vous devriez être sur votre chagrin au sujet d’une perte passée, mais votre instinct écoute-t-il? Vous vous dites de supprimer ces mauvaises habitudes – fumer, boire, trop manger, peu importe. Vous vous dites de cesser de ressentir ce que vous ressentez et que cela ne fonctionne pas. Vous vous dites «Fais-le», et ensuite vous ne le ferez pas.
Vous n’auriez pas ce problème si votre esprit était un ordinateur et que vous étiez un robot. Vous pouvez simplement vous reprogrammer. Une simple étape; une modification fiable de votre nature. Ce serait un trait enviable que vous n’avez pas. Vous l’entendez invoquée de manière autonome, par exemple, «sois ici maintenant» ou «laisse tomber ton ego», comme si c’était aussi simple que si nos appétits étaient sous notre contrôle total comme ils le sont dans des robots programmés. Ils ne sont pas sous notre contrôle total et cela nous dérange.
Cela nous dérange aussi d’autres personnes. Pourquoi n’écoutent-ils pas la raison? Pourquoi ne puis-je pas simplement dire à mon épouse, à mes enfants et à mes collègues de le supprimer et qu’ils le feraient automatiquement? “Qu’est ce qui ne vas pas chez toi? Je t’ai dit de faire X! Alors, pourquoi ne le fais-tu pas?
Nous sommes des créatures d’habitude et nos esprits sont des créateurs d’habitudes. Une fois que nous avons pris l’habitude, il est difficile de changer. Nous pouvons affirmer que nous sommes ouverts à l’apprentissage, mais ce n’est pas tout à fait vrai. L’esprit essaie constamment de s’alimenter autant que possible avec une habitude semblable à celle d’un ordinateur. Il est décevant de constater que quelque chose que nous avons bourré avec succès a refait surface de toute façon. Nous minimisons la réflexion lente dans la mesure du possible. Comme vous dans la science-fiction, vous souhaitez que tout soit déjà automatisé. Vous voulez que votre esprit soit minimisé afin de pouvoir naviguer en pilote automatique.
Notre robo-envie motive également la quête humaine d’absolutisme religieux, spirituel ou politique. Ne serait-il pas agréable de se débarrasser de toutes les doutes de notre vie? Ne serait-il pas agréable d’être simplement programmé pour vivre selon un algorithme sûr? Pas plus d’anxiété, de confusion ou de doute de soi. Votre instinct tout-puissant saura toujours ce qu’il convient de faire. Jamais confus sur ce qui compte, vous le sauriez déjà.
La Robo-Envie engendre l’aversion pour la théorie de l’évolution de Darwin par sélection naturelle, pas par la peur de descendre des singes, ni par la crainte du rôle réduit de Dieu, mais par la crainte de l’iniquité. Toutes les adaptations sont des habitudes de réponse qui peuvent réussir ou échouer. Il n’existe pas de recettes sûres absolues sur la façon de vivre, pas d’algorithme générique. Vos habitudes pourraient se révéler être des échecs.
Bien sûr, nous détestons la stérilité de l’existence robotique, mais nous le souhaitons aussi. Nous avons deux opinions à ce sujet car nous parlons de libre arbitre et de déterminisme. Nous voulons la liberté de grimper mais de ne pas tomber. Nous voulons le déterminisme qui empêche de tomber mais nous ne voulons pas du déterminisme qui nous empêche de grimper. Nous aimerions un déterminisme robotique dans la mesure où nous pourrions passer en pilote automatique et programmer les tripes d’autres personnes afin qu’elles ne nous gênent pas lorsque nous grimpons.
Ce que nous voulons vraiment, c’est un cliquet qui bloque de manière fiable les échecs et les chutes tout en nous laissant libre de grimper. Vous l’entendez dans nos prières à un Dieu omniscient, un GPS cosmique qui peut nous dire comment atteindre notre idéal car le monde qui nous entoure est entièrement automatisé, comme dans un jeu vidéo à une personne. Tous les autres seraient des robots afin que nous puissions brouiller au-dessus de leur comportement fiable au prochain niveau et au prochain jusqu’au paradis.
Nous rêvons d’une cohérence interne comme celle d’un robot, d’un ordinateur, des mathématiques ou de la physique et nous ne l’atteindrons jamais. Comme PAGI, nous rencontrons des problèmes qui ne peuvent pas être automatisés. Heureusement, contrairement aux robots, nous ne nous enfermons pas, nous nous demandons. Ou bien nous faisons le contraire en nous attachant à une habitude automatisée qui ne fonctionne pas, mais qui répond à notre soif de jalousie généreuse de certitude absolue.
Références
Brockman, John, éd. (2018) Les esprits possibles: 25 façons de regarder l’IA. NYC, NY: Penguin Press.
Kahneman, Daniel (2013) Penser vite et lentement. NYC, NY: Farrar, Straus, Giroux.
