La montée de la machine sensible est un vieux trope en science-fiction. Et cela ne s'avère jamais bon pour l'humanité. Le Terminator , The Matrix et I, Robot sont tous des exemples de films qui représentent des machines intelligentes qui prennent conscience et qui détruisent ou subjuguent leurs créateurs humains.
Les superproductions hollywoodiennes sont rarement des portraits précis de la réalité. Alors, avons-nous vraiment quelque chose à craindre de nos machines intelligentes? Certains scientifiques pensent qu'il est tout à fait raisonnable d'avoir peur de l'IA.
Quand le flop du box-office Transcendence a été créé en 2014, le physicien Steven Hawking et ses collègues ont écrit un commentaire pour The Independent , un important journal britannique. Remarquant la façon dont l'intelligence artificielle amplifie considérablement l'intelligence humaine, ils remarquent: «Le succès dans la création de l'IA serait le plus grand événement de l'histoire humaine.» Mais ensuite vient l'avertissement: «Malheureusement, ce pourrait être aussi le dernier. éviter les risques. "
Comme pour toute nouvelle technologie, nous devons peser soigneusement les avantages potentiels par rapport aux dangers et trouver des moyens de les atténuer. Hawking et ses collègues soulignent les façons dont l'IA pourrait s'égarer et avoir des conséquences imprévues. Il pourrait également être mis à des fins infâmes par des humains mal intentionnés. Mais les auteurs semblent moins préoccupés par les machines sensibles qui détruisent délibérément l'humanité.
Dans son nouveau livre, The Evolution of Consciousness , le biologiste norvégien Bjørn Grinde souligne que l'intelligence n'implique pas la conscience. "La nature est pleine de solutions intelligentes sans aucun indice de conscience", écrit-il (p.61). La même chose peut être dite de nos machines.
Il n'y a pas de définition unique de l'intelligence sur laquelle tout le monde est d'accord, mais il y a un consensus général sur la capacité d'apprendre de l'expérience, de s'adapter à un environnement changeant, de prendre des décisions et d'agir dans son propre intérêt.
La vie existe sur la planète depuis plus de trois milliards d'années, principalement sous la forme d'organismes unicellulaires. Ce n'est que l'évolution des neurones et des systèmes nerveux, il y a 600 millions d'années, que l'intelligence est née.
Vous pourriez faire valoir que la capacité des microbes à se déplacer vers les nutriments et loin des toxines est la preuve d'une intelligence sans système nerveux. Mais Grinde maintient que ces mouvements peuvent être expliqués en termes de processus chimiques.
Nous n'avons aucune raison de supposer l'intelligence de la part des plantes non plus. Leur croissance est guidée par la physique de la pesanteur et de la lumière, et si elles prospèrent ou périssent est une question de chance aveugle. Les graines qui poussent dans un sol riche et la lumière du soleil prospèrent, tandis que celles qui atterrissent dans un sol pauvre et l'ombre se fanent. Et si les conditions changent, une usine ne peut pas se déplacer vers un meilleur emplacement.
Seuls les animaux peuvent approcher les opportunités et éviter les menaces, et c'est parce qu'ils ont des systèmes nerveux. Le but ultime d'un système nerveux est de permettre à un organisme d'interagir avec son environnement dans le but ultime de transmettre ses gènes à la génération suivante.
Si vous ne bougez pas, vous n'avez pas besoin d'un cerveau. Il suffit de demander une gerbe de mer. Dans sa jeunesse, il nage comme un têtard, mais à l'âge adulte il s'attache à un rocher où il passe le reste de sa vie. Son premier acte après s'être installé est de dévorer son propre cerveau.
Les animaux montrent un comportement intelligent parce qu'ils ont des systèmes nerveux. Même le nématode inférieur, avec seulement 302 neurones, peut apprendre à distinguer les bactéries qui sont bonnes à manger et celles qui l'ont rendu malade. Les abeilles ont un minuscule cerveau d'environ un million de cellules, et non seulement elles apprennent la bonne nourriture du mauvais, mais elles peuvent aussi communiquer l'emplacement des sources de nourriture à leurs ruches. Assez incroyable pour un cerveau d'abeille!
Une pieuvre a un cerveau cent fois plus gros qu'une abeille, ce qui en fait un véritable génie du monde sous-marin. Ces céphalopodes peuvent apprendre à naviguer dans des labyrinthes complexes, utiliser des outils et même apprendre en observant ce que les autres font. Donc, une pieuvre est clairement intelligente, mais a-t-elle une conscience? Certains neurobiologistes disent: «Peut-être.» Mais Grinde est plus enclin à dire «Peut-être pas».
Grinde n'est pas seulement une espèce chauvine. Au contraire, son instinct lui dit abeilles et pieuvres ne sont pas conscients. Vous n'êtes probablement pas au courant de cela, mais vous avez en fait un deuxième "cerveau" dans votre estomac. Strictement parlant, c'est un réseau de neurones allant de la bouche à l'anus qui contrôlent l'activité du tractus gastro-intestinal. Bien que minuscule par rapport à cette gigantesque masse neurale à l'intérieur de votre crâne, à 500 millions de neurones, c'est cinq fois la taille d'un cerveau de poulpe.
Le cerveau «intestinal» effectue son travail avec très peu d'apport du grand cerveau à l'étage. En fait, l'intestin ne communique avec le cerveau que sur la base du besoin de savoir, surtout quand quelque chose a terriblement mal tourné. Vous n'êtes actuellement pas au courant des bactéries toxiques qui se multiplient rapidement et qui rongent la muqueuse de votre estomac. Mais momentanément, votre cerveau «intestinal» enverra une alarme, et c'est seulement quand le message parvient à votre cerveau principal que vous prenez conscience que vous êtes sur le point de tomber malade. (C'est aussi votre cerveau principal qui vous dirige vers la salle de bain la plus proche.)
Si le nombre de neurones est une mesure brute de l'intelligence, alors votre intestin est cinq fois plus intelligent qu'une pieuvre. Et si votre intestin n'a pas de conscience, pourquoi devrions-nous l'assumer de la part d'un céphalopode humble? En d'autres termes, l'intelligence seule n'est pas suffisante pour produire la conscience.
Au lieu de cela, Grinde soutient que la conscience provient des émotions de base de la douleur et du plaisir, qui motivent le comportement et conduisent à un apprentissage rapide. Les états émotionnels sont générés par certaines structures du cerveau antérieur, telles que le cortex cérébral et le système limbique. Ces structures sont bien développées chez les mammifères, et elles existent aussi sous des formes plus primitives chez les oiseaux et les reptiles, mais pas chez les autres animaux. En d'autres termes, la conscience est construite sur l'émotion, pas sur l'intelligence.
Dans le trope de la science-fiction, les machines deviennent de plus en plus intelligentes jusqu'à ce qu'elles franchissent un certain seuil, au point où la conscience émerge soudainement. Mais où est exactement ce seuil? Peut-être est-ce à la soi-disant singularité, quand les machines deviennent plus intelligentes que les humains – peu importe ce que cela signifie.
Dans le film Transcendence , les scénaristes se foutent du problème du seuil de conscience. Plus précisément, ils ont l'inventeur du système intelligent en quelque sorte télécharger sa propre conscience dans l'ordinateur. Au lieu que la machine devienne comme l'homme, l'homme est mis à l'intérieur de la machine.
Mais alors l'histoire ne parle plus de l'IA détruisant délibérément l'humanité. Au lieu de cela, il s'agit d'une personne utilisant l'IA contre ses semblables. Et c'est le danger de l'IA que Steven Hawking nous met en garde.
