Homo Sapiens 2.0

"Cette espèce aurait pu être géniale, et maintenant tout le monde s'est contenté de baskets avec des lumières."

– George Carlin

"Parfois, je pense que le signe le plus sûr que la vie intelligente existe ailleurs dans l'univers est qu'aucun d'entre eux n'a essayé de nous contacter."

– Bill Waterson, Calvin et Hobbes

• Recherche d'unité dans un champ fragmenté
• Que ferons-nous lorsque les robots prendront nos emplois?
• Ce travailleur a tellement plus à offrir
• L'avenir de la dignité
• Joignez-vous à la Society for Media Psychology & Technology

Source: Image de l'éditeur

Nous avons vu dans mon dernier blog, "Lord of the Flies", que la religion fournit principalement de la souffrance et de la souffrance à tous les habitants de la planète Terre. Et tout signifie tout. Le brûlis des forêts tropicales au Brésil tue des milliards d'animaux et de plantes, et ces incendies sont principalement dus à un «mandat» – renforcé par la religion – que la Terre est à nous de faire avec ce que nous (humains) voulons. Et ce n'est qu'une chose que les humains font.

Nous avons également vu dans ce blog que la religion est due à notre ADN évolué. Nous les humains sommes câblés par notre évolution pour être religieux.

La conclusion malheureuse est que se débarrasser de la religion, ce qui serait une bonne chose, n'est probablement pas dans les cartes.

• Trillin c. Twitter: ont-ils manqué de munition encore?
• Les ordinateurs manquent de jugement social
• Qu'est-ce que l'esprit?
• Le mythe des machines sensibles
• Word Matters

Alors, que devons-nous faire? Bien sûr, la plupart des humains ne veulent rien faire parce qu'ils ne voient aucun besoin de faire quoi que ce soit. C'est la religion au travail. Mais il y a quelque chose que nous pouvons faire, et nous le faisons: Construire nos remplacements .

Nous, les humains, devenons de plus en plus moraux: au cours des derniers millénaires, nous sommes devenus plus gentils et gentils. Mais, comme nous l'avons vu, la religion nous empêche d'être assez morale. Nous sommes très peu susceptibles d'atteindre les sommets de moralité requis pour l'épanouissement de toute vie sur la planète Terre. Tout comme nous sommes bornés sur le plan épistémologique, nous semblons également moralement limités. Ce fait couplé à la fois que nous pouvons construire des machines qui sont meilleures que nous dans diverses capacités, et le fait que l'intelligence artificielle progresse, implique que nous devrions construire ou concevoir nos remplacements et ensuite inaugurer notre propre extinction. En fait, l'environnement moral de la Terre, façonné par les humains avec ce que la science actuelle nous dit de la moralité, de la psychologie humaine, de la biologie humaine et des machines intelligentes, nous oblige moralement à construire nos propres remplacements. Cette affirmation peut sembler scandaleuse, mais en fait c'est une conclusion née de la bonne rationalité et de la décence à l'ancienne.

Voici trois mécanismes que l'évolution a truqués en nous (pour parler anthropomorphiquement) pour augmenter les chances de survie de notre espèce: une forte préférence pour nos parents, une forte préférence pour notre groupe ou tribu (pas tous nécessairement liés), et, bien sûr, une forte préférence pour l'accouplement. Bien sûr, les individus de toutes les espèces (y compris les plantes) ont ces préférences, mais nous sommes les seuls à les avoir et savons qu'il est mauvais d'adopter certains comportements pour les satisfaire. Le premier nous incite à s'engager dans certaines formes de maltraitance des enfants; la seconde nous incite à être racistes; et le troisième nous induit (et beaucoup d'autres espèces) à violer. (Tous les détails peuvent être trouvés dans mes papiers: "Après que les humains sont partis" ( Philosophy Now, v. 61, mai / juin 2007, 16-19) et "Homo sapiens 2.0" (dans M. Anderson et S. Anderson, (éd.), Machine Ethics , Cambridge University Press.)

Nous sommes donc moralement limités. Pourtant, il y a des choses qui valent la peine d'être préservées: l'art et la science, pour n'en nommer que deux. Certains pourraient penser que ces bonnes parties de l'humanité justifient notre existence continue. Cette conclusion était sans doute justifiée, avant que l'IA humaine devienne une réelle possibilité. Mais maintenant, ce n'est plus justifié. Si nous pouvions implanter dans les machines les meilleurs anges de notre nature, alors moralement nous avons le devoir de le faire, et ensuite nous devrions sortir, mettre en scène à gauche.

Construisons donc une race de machines – Homo sapiens 2.0 – qui ne mettent en œuvre que ce qui est bon pour l'humanité, qui ne ressent aucun effort d'évolution pour commettre les maux que nous faisons et qui peut laisser le reste du monde vivre. Et puis, nous – les humains – sortons de la scène, laissant derrière nous une planète peuplée de machines qui, bien que peu susceptibles d'être des anges parfaits, seront néanmoins une grande amélioration sur nous.

Quelles sont les perspectives de construction d'une telle course de machines? Nous savons cela: cela doit être possible puisque nous sommes de telles machines. Nous sommes des machines à viande quasi morales avec une intelligence humaine.

Construire nos remplacements implique deux problèmes: 1) construire des machines avec une intelligence humaine et 2) construire des machines morales. Kant peut être interprété comme affirmant que construire le premier nous donnera le dernier. Mais la plupart des philosophes considèrent maintenant cela comme incorrect. Le souci émotionnel pour les autres est nécessaire, et cela ne découle pas d'une pure intelligence rationnelle et humaine – de toute évidence, puisqu'il y a beaucoup de gens malins et intelligents. Nous devons donc mettre en œuvre dans nos remplacements l'idée que tous les autres Terriens sont importants. Comment faisons-nous cela?

Je ne connais aucune réponse à cette question. Mais il n'y a aucune raison de supposer qu'on ne peut y répondre; nous ne sommes pas condamnés à construire des baskets avec des lumières ni des Terminators . Et quand nous répondrons à cette question, nous serons en mesure de sortir, en sachant que nous avons fait de notre mieux. . . en construisant nos remplacements.