Je peux le sentir dans l'air, si épais que je peux le goûter. Peut tu? C'est le sentiment que nous allons construire-un-cerveau-artificiel à tout moment. Il est exsudé dans l'atmosphère par les panaches de médias («IBM vise à construire le cerveau humain artificiel dans 10 ans») et les fontaines de films de science-fiction … et aussi par la recherche scientifique, y compris des projets comme Blue Brain et SyNAPSE d'IBM. Par exemple, voici un récent communiqué de presse sur ce dernier:
Aujourd'hui, les chercheurs d'IBM (NYSE: IBM) ont dévoilé une nouvelle génération de puces informatiques expérimentales conçues pour émuler les capacités du cerveau en matière de perception, d'action et de cognition.
Maintenant, je suis aussi romantique que le scientifique suivant (comme preuve, voir mon post précédent sur le moine de la science Carl Sagan), mais même je porte un pot d'eau froide pour des cas comme celui-ci. Voici quatre saveurs d'eau glacée pour aider à dégager le palais.
Le ver dans le col
Dans l'histoire des Spartiates à la Bataille des Thermopyles, 300 soldats empêchent une armée d'un million d'hommes de traverser un étroit col de montagne. En neuroscience, ce sont les 300 neurones de l'ascaris C. elegans qui nous empêchent de comprendre les immenses collections de neurones que l'on trouve dans notre cerveau ou celui d'un mammifère.
Ce petit ver rond est l'organisme multicellulaire le plus étudié de ce côté d'Alpha Centauri – nous savons comment ses 300 neurones sont interconnectés et comment ils se lient aux milliers de cellules de son corps. Et pourtant … Même avec notre vision de Dieu de cette créature maigre, nous ne sommes pas capables de donner beaucoup de sens à son «cerveau».
Alors, dites-moi où je suis précipité, mais cela ne devrait-il pas nous faire hésiter à sauter de 300 neurones à 300 ou 300 milliards?
Comme on dit, 300 est une tragédie; 300 milliards est une statistique.
Les nuls à gros seins
A propos de cette énorme armée perse: elle ne semblait pas montrer l'intelligence collective que l'on pouvait attendre de sa taille.
Eh bien, il se trouve que c'est une préoccupation qui s'applique également aux cerveaux d'animaux, dont la taille peut varier de plus de cent fois, en nombre, en nombre de neurones, en nombre de synapses, et qui ne sont pas tout plus intelligent. Les cerveaux obtiennent leur taille non pas principalement à cause de l'intelligence qu'ils portent, mais à cause de la taille du corps qu'ils traînent.
Je l'ai appelé le "grand embarras de la neuroscience", et l'embarras est que nous n'avons actuellement aucune bonne explication pour pourquoi les corps plus grands ont de plus grands cerveaux.
Si nous ne pouvons pas expliquer ce que le cerveau fait cent fois plus pour son utilisateur, alors nous devrions modérer notre confiance dans toute tentative que nous pourrions avoir pour construire notre propre cerveau.
Articulations floues
L'ordinateur sur lequel vous lisez ceci est construit à partir de circuits numériques, de mécanismes électroniques construits à partir de portes appelées AND, OR, NOT et ainsi de suite. Ces portes, à leur tour, sont construites avec des transistors et d'autres parties. Ordinateurs construits à partir de circuits numériques construits à partir de portes logiques construites à partir de transistors. Vous avez eu l'idée. C'est seulement parce que les ordinateurs sont construits avec des «joints pointus» comme ceux-ci que nous pouvons leur donner un sens.
Mais toutes les machines n'ont pas des niveaux aussi beaux, précis et distinctifs, et quand elles ne le sont pas, la notion même de «porte» perd de son sens et notre capacité à nous envelopper du fonctionnement de la machine peut rapidement se détériorer.
En fait, lorsque les scientifiques créent des simulations qui comprennent des circuits numériques évoluant par eux-mêmes – et incluent la dynamique de tension désordonnée des transistors et autres composants de plus bas niveau – ils obtiennent des circuits «gremlin» inélégants dont le comportement est déterminé par les propriétés transistors de manière mettre en œuvre des portes. Les circuits résultants ont des joints flous, c'est-à-dire que la distinction entre un niveau d'explication et le suivant est floue, si floue qu'il n'est pas très significatif de dire qu'il y a des portes logiques plus longtemps. Même les petits circuits construits ou évolués de cette manière sont presque indéchiffrables.
Les cerveaux sont-ils comme les ordinateurs logiques, prévisibles, assis sur nos bureaux, avec des niveaux de description clairement définis? À première vue, ils peuvent sembler être: des aires corticales, des colonnes, des microcolonnes, des neurones, des synapses, et ainsi de suite, se terminant par le génome.
Ou bien, des cerveaux comme ces circuits numériques peuvent-ils évoluer par eux-mêmes, et ne se soucient-ils pas de savoir si le singe le plus nu peut ou non comprendre le résultat? Les articulations du cerveau pourraient-elles être floues, chaque niveau inférieur atteignant l'autre? Si c'était le cas, alors, en assemblant un cerveau artificiel, nous n'avons pas le luxe de simplement construire à un niveau et d'ignorer la complexité des niveaux inférieurs.
Tout comme l'évolution conduit à des circuits numériques qui ne sont pas compréhensibles en termes de portes logiques – il faut aller au niveau des transistors pour les fissurer – l'évolution a probablement conduit à des circuits neuronaux qui ne sont pas compréhensibles en termes de neurones. Il se peut que, pour comprendre la machinerie neuronale, nous n'avons pas d'autre choix que d'aller au-dessous du neurone. Peut-être tout le chemin vers le bas.
… Dans ce cas, je vous recommande de chercher d'autres voies en plus d'essayer de construire ce qui constituerait le plus grand circuit de gremlin dans l'univers connu.
Instincts
Ce serait formidable si les cerveaux pouvaient entrer dans le monde sous forme de tabula rasa et, au cours de leur vie, apprendre tout ce qu'ils ont besoin de savoir.
Grand, au moins, si vous espérez en construire un vous-même. Pourquoi? Parce que vous pourriez alors mettre en place un cerveau artificiel ayant les propriétés structurelles générales de vrais cerveaux et équipé d'un algorithme d'apprentissage à usage général, et laissez-le lâcher sur le monde. Ça partait, montrant l'éclat que vous espériez.
C'est pratique pour le constructeur d'un cerveau artificiel, mais pas si pratique pour le cerveau lui-même, artificiel ou autre. Les cerveaux d'animaux ne pénètrent pas dans le monde comme des ardoises blanches. Et ils ne voudraient pas. Ils bénéficient de l '«apprentissage» des innombrables générations de sélection parmi leurs ancêtres accumulés. De vrais cerveaux sont instillés avec des instincts. Pas des réflexes simples, mais des algorithmes d'apprentissage spéciaux conçus pour apprendre très rapidement les bonnes choses étant donné que l'animal est dans le bon type d'habitat. Nous sommes remplis de fonctions ou de capacités évoluées dont nous ne sommes toujours pas conscients.
Pour les étoffer, nous devrons comprendre l'habitat naturel de l'esprit, et comment l'esprit s'y connecte. J'ai appelé l'ensemble de toutes ces fonctions ou puissances du cerveau le "téléome" (un nom qui met l'accent sur la téléologie déconcertée qui est nécessaire pour vraiment donner un sens au cerveau, et qui est simultanément conçu pour éblouir les mots à la mode "-ome" «génome» et «connectome»).
Si les vrais cerveaux fourmillent d'instincts, alors les cerveaux artificiels veulent aussi être; pourquoi se voir confier la tâche exigeante de tout faire en une génération alors qu'il peut être bourré dès le départ avec la sagesse des anciens?
Et maintenant, on peut voir le problème pour le constructeur de cerveau artificiel. Obtenir les propriétés générales du cerveau ne suffit pas. Au lieu de cela, le constructeur est chargé de la lourde tâche d'emballer le cerveau avec une montagne d'instincts (ce qui nécessitera de nombreuses générations de futurs scientifiques à déballer, alors qu'ils luttent pour construire le téléome), et parvient à encoder toute cette sagesse dans la structure fine de l'organisation du cerveau.
La bonne nouvelle
Peut-être que je suis un buzz. Mais je préfère dire qu'il est important de tuer le mauvais buzz, car il obscurcit tout le buzz justifié qui nous attend en neuroscience et en intelligence artificielle. Et il y en a beaucoup. Construire des cerveaux artificiels peut faire partie de notre futur – bien que je ne sois pas convaincu – mais pour l'avenir prévisible, à l'échelle du siècle, je ne vois que du pétillement.
~~
Mark Changizi est un neurobiologiste évolutionniste et directeur de la cognition humaine chez 2AI Labs. Il est l'auteur de The Brain from 25000 Feet , The Vision Revolution , et de son dernier livre, Harnessed: How Language and Music a imité la nature et a transformé le singe en homme . Cette pièce est apparue pour la première fois le 16 novembre 2011 au Discover Magazine.
