Carte # 32: Homo Hubris? (Partie 2 de 2)

La technologie entraîne le changement, certainement. Mais cela conduit-il aussi au progrès?

Carte # 32: Homo Hubris? (Partie 2 de 2)

Source: Chris Kutarna

La technologie entraîne le changement. Cela favorise-t-il également les progrès?

• Elle a dit, il a dit, et le parti pris de la croyance partisane
• Jeux d’esprit politique: le dossier Kavanaugh
• Sept questions essentielles pour l’avenir
• Une analyse remarquable des opinions politiques aux États-Unis
• Prévoir votre carrière

Ces huit mots résument en grande partie la conversation en cours dans la société. Il peut sembler judicieux de se heurter à la relation entre «technologie» et «progrès».

Dans la première partie de cette série, j’ai résumé «quatre naïveté» qui se glissent généralement dans une vision techno-optimiste de l’avenir. Ces points de vue dissimulent: 1) la manière dont la technologie supprime les emplois peu qualifiés qui, dans le passé, ont aidé les pays pauvres à se développer (par exemple la Chine); (2) comment, dans une guerre mondiale contre les talents, les communautés les plus pauvres ont du mal à conserver les compétences techniques dont elles ont besoin; (3) comment, non seulement la technologie, mais la politique, décide si le changement technologique améliore le sort des personnes; et (4) en quoi chaque technologie est non seulement une solution, mais aussi un nouvel ensemble de problèmes que la société doit bien gérer pour réaliser des gains nets.

Technologie = progrès?

La plus grande naïveté – la conviction qui se cache derrière tout ce qui précède – est que le changement technologique est une bonne chose.

• Psychologie de la conservation, coexistence, loups et jeunes
• Une «croissance» nécessaire en tant qu’espèce
• La faute professionnelle du silence
• Quand tout va mal
• Êtes-vous assez persuasif pour changer l’esprit?

C’est l’une des plus grandes idées de notre époque, mais aussi l’une des moins interrogées…

Ce n’était pas toujours aussi évident. En 1945, J. Robert Oppenheimer, après avoir assisté à une explosion nucléaire sur le site de test du projet Manhattan au Nouveau-Mexique, marqua le moment avec une citation dystopique de la Bhagavad Gita: “Je suis devenu la mort, le destructeur de mondes.”

Mais au bout de dix ans, et malgré les horreurs d’Hiroshima et de Nagasaki, une version beaucoup plus utopique de l’âge atomique était apparue. Lewis Strauss, architecte du programme américain «Atoms for Peace» et l’un des membres fondateurs de la Commission de l’énergie atomique, a proclamé en 1954 que:

Il n’est pas excessif d’espérer que nos enfants bénéficieront chez eux d’énergie électrique trop économique, et ne connaîtront les grandes famines périodiques dans le monde que comme une question d’histoire. Ils voyageront sans effort au-dessus des mers et sous eux, et dans les airs avec un minimum de danger et à grande vitesse. Ils auront une espérance de vie beaucoup plus longue que la nôtre, à mesure que la maladie dévoilera ses secrets et que l’homme comprendra ce qui le fait vieillir.

Que s’est-il passé dans les années entre ces deux déclarations pour transformer le script de techno-dystopie en techno-utopie?

L’innovation parrainée par l’État en temps de guerre a produit non seulement la bombe atomique, mais également: de meilleurs pesticides et antibiotiques; les progrès de l’aviation et l’invention du radar; plastiques et fibres synthétiques; engrais et nouvelles variétés de plantes; et bien sûr, l’énergie nucléaire.

Parmi ces réalisations, une idée puissante s’est imposée dans de nombreux pays: la science et la technologie étaient synonymes de progrès.

Aux États-Unis, cette idée est devenue un dogme officiel du gouvernement presque immédiatement après la guerre. Dans un article célèbre, Science: The Endless Frontier, Vannevar Bush (conseiller scientifique en chef du président pendant la Seconde Guerre mondiale, leader de l’effort de R & D en temps de guerre et fondateur du fabricant d’armes américain Raytheon) a plaidé devant la Maison-Blanche pour le financement public des sciences qui ont contribué à la victoire dans la guerre permettrait, s’il était maintenu en temps de paix, d’élever la société vers de nouveaux sommets vertigineux en matière de santé, de prospérité et d’emploi. Il a également averti que (b) «sans progrès scientifique, aucune réalisation dans d’autres directions ne peut assurer notre santé, notre prospérité et notre sécurité en tant que nation du monde moderne». Mais Vannevar a également qualifié le financement public de la recherche scientifique et technologique de impératif moral:

La politique américaine fondamentale veut que le gouvernement favorise l’ouverture de nouvelles frontières. Il ouvrit les mers aux navires clippers et aménagea la terre pour les pionniers. Bien que ces frontières aient plus ou moins disparu, la frontière de la science reste. Il est conforme à la tradition américaine – une tradition qui a rendu les États-Unis grands – de rendre les nouvelles frontières accessibles au développement pour tous les citoyens américains. De plus, comme la santé, le bien-être et la sécurité sont des préoccupations propres au gouvernement, les progrès scientifiques sont et doivent revêtir un intérêt vital pour le gouvernement. Sans progrès scientifique, la santé nationale se détériorerait; sans progrès scientifiques, nous ne pourrions espérer améliorer notre niveau de vie ni créer un nombre accru d’emplois pour nos citoyens; et sans progrès scientifique, nous n’aurions pas pu maintenir nos libertés contre la tyrannie.

En bref, science et technologie = progrès (et si vous ne le pensez pas, il y a quelque chose de non patriotique – et moralement faux – dans votre façon de penser).

Les grands prêtres de la science et de la technologie ont fait de nous des croyants

Depuis chaque décennie, nombre des personnalités les plus célèbres et les plus influentes de la culture populaire sont celles qui ont répété et renouvelé cet article fondamental de la foi – dans le langage de la dernière découverte scientifique ou merveille technologique. Par exemple,

Les années 1960: le coup de maître de John F. Kennedy pour l’exploration spatiale; La loi de Gordon Moore sur la croissance exponentielle de la puissance de calcul; l’Exposition universelle de 1964 à 1965 à New York (qui proposait des expositions tournées vers l’avenir, telles que le PicturePhone de Bell Telephone et le Futurama de General Motors)

Années 1970: Future Shock d’Alvin Toffler, qui affirmait que la technologie était désormais le principal moteur de l’histoire. Carl Sagan, qui a soutenu que la découverte scientifique (en astronomie en particulier) nous révèle les vérités les plus importantes de la condition humaine; Buckminster Fuller, qui a soutenu que des percées dans les domaines de la chimie, de l’ingénierie et de la fabrication garantiraient la survie de l’humanité sur «Spaceship Earth»

Nous pouvons faire en sorte que toute l’humanité réussisse grâce à l’évolution industrielle qui engloutit la science. – Buckminster Fuller, Manuel d’utilisation du vaisseau spatial Earth (1968)

Années 1980: Steve Jobs, qui a popularisé l’ordinateur personnel (Mac) en tant qu’outil d’autonomisation, d’expression et de libération de soi (d’où la publicité télévisée emblématique d’Apple «1984» ); Erik Drexler, ingénieur du MIT, dont le livre de 1986, Engines of Creation: L’ère de la nanotechnologie à venir , a imaginé un avenir libéré de tout besoin, car nous pourrons assembler tout ce dont nous avons besoin, atome par atome. Hans Moravec, l’un des premiers chercheurs en intelligence artificielle dont le livre Mind Children de 1988, appliquait la loi de Moore au domaine émergent de la robotique et des neurosciences et prédit que l’humanité posséderait des pouvoirs divins de Création-avec-un-capital-C d’ici 2040. Nos robots prendraient notre place comme espèce la plus intelligente de la Terre.

Années 1990: Bill Gates, dont la vision d’un «ordinateur sur chaque bureau» associe un meilleur accès aux logiciels Microsoft à une amélioration du bien-être humain; Ray Kurzweil, un autre pionnier de l’IA, a expliqué dans Age of Intelligent Machines (1990), Age of Spiritual Machines (1999) et The Singularity is Near (2005) que l’ essence de ce qui fait de nous des êtres humains est d’aller au-delà de nos limites. Il est donc inévitable que la science et la technologie franchissent à terme la prochaine étape de l’évolution humaine: le transhumain . En fusionnant le «contenu» de la conscience humaine avec le matériel informatique et les logiciels, nous transcendons les limites biologiques de la capacité cérébrale et de la durée de vie.

Années 2000: Sergey Brin et Larry Page, qui nous ont convaincus qu’en organisant l’information du monde, Google pourrait aider l’humanité à surmonter la barrière de l’ignorance qui nous sépare et les avantages que le savoir peut apporter. Steve Jobs (à nouveau), qui a popularisé le smartphone en tant qu’outil d’autonomisation, d’expression et de libération de soi (encore), en permettant à tout le monde de numériser tout ce que nous voyons, disons, entendons et touchons pas à nos bureaux.

Années 2010: Mark Zuckerberg, qui, dans son manifeste sur Facebook, positionne la technologie de réseautage social de son entreprise comme indispensable pour que le progrès humain se poursuive:

Nos plus grandes opportunités sont maintenant globales, telles que la propagation de la prospérité et de la liberté, la promotion de la paix et de la compréhension, la réduction de la pauvreté et l’accélération de la science. Nos plus grands défis ont également besoin de réponses mondiales, telles que la lutte contre le terrorisme, la lutte contre le changement climatique et la prévention des pandémies. Le progrès exige maintenant que l’humanité se rassemble, pas seulement en tant que villes ou nations, mais également en tant que communauté mondiale… Facebook développe l’infrastructure sociale permettant aux citoyens de créer une communauté mondiale qui fonctionne pour nous tous.

(Facebook, apparemment, est la technologie qui nous rachètera tous de notre incapacité morale à élargir notre «cercle de compassion» [comme l’appelait Albert Einstein] les uns envers les autres.)

De même, Elon Musk encadre son SpaceX ‘Mars-shot’ comme nécessaire. Sinon, comment l’humanité pourrait-elle échapper aux limites de Spaceship Earth? (Soixante-quinze ans après le rapport de Vannevar, Endless Frontiers , nous prenons maintenant pour acquis que “fuir” de telles “limites” est l’objectif propre de la science – et par extension de la société.)

Et enfin (au moins pour le moment), Yuval Harari, dont le dernier livre, Homo Deus: Une brève histoire de demain , dit tout dans le titre.

La science et la technologie sont le moteur du progrès humain. Cette idée est devenue si manifestement fidèle aux esprits modernes que nous ne la reconnaissons plus pour ce qu’elle est réellement: la prémisse la plus discutable de la modernité.

Plutôt que de débattre de cette prémisse – un débat qui lui-même offre des possibilités de progrès vertigineuses, dans de multiples dimensions, par de multiples acteurs -, nous le prenons souvent comme un évangile.

Plutôt que de débattre de cette prémisse, Yuval en tire la conclusion finale et pose à voix haute la question selon laquelle toute la ligne des grands prêtres qui l’a précédée murmurait doucement: Est-ce que nos pouvoirs en matière de science et de technologie font de nous des dieux?

C’est la même question que celle exprimée par Oppenheimer en 1945, mais elle est désormais purifiée de toute peur et de tout doute.

Nous pouvons faire le paradis sur terre

«Utopie», que Thomas More a inventée dans son livre du même nom en 1516, signifie littéralement «pas de place». Depuis des siècles, de nombreux prophètes de telle ou telle persuasion ont peint des visions utopiques. Mais ce qui différencie les visions actuelles de la techno-utopie est la voie à suivre pour y parvenir.

Dans le passé, le chemin de l’utopie appelait à un saut impossible dans le comportement moral de l’homme. Tout à coup, nous suivrons tous la règle d’or et ferons aux autres ce que nous aurions fait. Oui en effet.

Mais la voie actuelle vers la techno-utopie appelle un saut scientifique et technologique: en cybernétique, en intelligence artificielle, en biotechnologie, en manipulation génétique, en fabrication moléculaire. Et cela semble possible… n’est-ce pas? En d’autres termes: étant donné que notre technologie a évolué depuis le craquage de l’atome, qui parmi nous est prêt à dire que ces avancées sont impossibles?

Et si elles ne sont pas impossibles , l’utopie est réalisable. N’avons-nous pas alors un devoir – un devoir moral – de nous battre pour cela?

Cet argument est tellement convaincant aujourd’hui que nous nous en sommes persuadés depuis si longtemps. Persuasif – et omniprésent. C’est l’argument moral fondamental présenté par un nombre croissant de projets de sauvegarde du monde axés sur la technologie, dont le plus frappant est l’Université Singularity.

Je trouve cela tellement convaincant que je ne sais pas trop quoi écrire en réponse…

Dieux ou esclaves?

Jusqu’à ce que je me souvienne de la sagesse Hannah Arendt ou Zygmunt Bauman, ou de ma conversation précédente avec Ian, et que je me rappelle que la technologie ne produit jamais de progrès en soi. La technologie ne peut pas réparer nos défaillances morales et sociales, car ces mêmes défaillances sont intégrées à nos technologies. Ils se propagent avec nos technologies. Notre technologie la plus récente, l’IA (qui apprend nos comportements antérieurs afin de les répéter), est également la preuve la plus simple de cette vérité fondamentale. Plus de technologie ne sera jamais la solution miracle aux problèmes qu’elle a contribué à créer.

Nous avons donc un besoin urgent de plonger dans cette naïveté la plus profonde de notre mentalité moderne, cette conviction que le changement technologique est une bonne chose.

Comment pourrions-nous corrompre notre techno-innocence?

Une chose qui devrait ressortir de ma brève histoire du récit techno-optimiste est que la plupart des narrateurs sont des hommes . Je ne connais pas suffisamment les questions de genre pour faire plus que souligner ce fait, mais cela devrait susciter des discussions approfondies. Question: Quelles valeurs sont intégrées et quelles valeurs sont exclues des visions du progrès humain axées sur la technologie? (Par exemple, l’amélioration artificielle est-elle une expression de la lutte naturelle contre les limites de l’humanité ou une négation de la nature humaine?)

En tant que politologue, je ne peux m’empêcher de poser la question suivante: quels intérêts sont servis et lesquels sont écartés lorsque la technologie occupe une place prépondérante en tant que principal moteur de notre avenir commun? De toute évidence, les entrepreneurs et les investisseurs en technologie s’en tirent bien: Heureux les innovateurs en technologie, car ils sont les agents du progrès humain. Dans le même temps: Les régulateurs sont maudits, car ils ne savent pas ce qu’ils gouvernent.

Yuval glisse dans ce genre de pensée dans son Homo Deus, quand il écrit:

C’est précisément parce que la technologie évolue si rapidement et que les parlements et les dictateurs sont submergés par des données qu’ils ne peuvent pas traiter assez rapidement, que les politiciens d’aujourd’hui pensent à une échelle beaucoup plus petite que leurs prédécesseurs il ya un siècle. En conséquence, au début du XXIe siècle, la politique est privée de grandes visions. Le gouvernement est devenu simple administration. Il gère le pays mais ne le dirige plus.

Mais est-ce vraiment la vitesse du changement technologique, est-ce la taille des données qui limite la vision des politiciens d’aujourd’hui? Ou est-ce la croyance populaire qu’une vision politique doit tenir compte des priorités des innovateurs technologiques? Malgré toutes les nouvelles menaces qui pèsent sur notre démocratie, les médias sociaux doivent être activés . Malgré tous les dangers potentiels, la recherche en intelligence artificielle doit être payante. Attends, mais pourquoi?

Pourquoi!?! Quelle question ignorante!

Et pendant que nous discutons des intérêts de qui sont servis / étouffés, nous devrions nous poser la question suivante: à qui la science et la technologie sont-elles avancées et à qui est-elle renvoyée? «Science et technologie» n’est pas une force autonome. Il n’a pas son propre élan, ni direction. Nous déterminons ces choses.

Le contrat social original entre science et société proposé par Vannevar Bush en 1945 prévoyait que les universités et les laboratoires effectuaient des recherches pures pour eux-mêmes, guidés par la curiosité et la créativité humaines. Le secteur privé, guidé par la recherche du profit, passerait ensuite au crible effort pour trouver les bonnes idées prêtes à être transformées en outils utiles pour le reste d’entre nous. Mais la réalité actuelle est une coopération toujours plus étroite entre les universités et les entreprises. Le profit privé élimine la curiosité du public. La recherche qui promet de gros bénéfices dans le système économique actuel prime généralement sur la recherche qui pourrait inaugurer celle de demain…

Homo Humilitas

Toutes les prédictions sur le futur reflètent les valeurs et les normes du présent.

Alors, quand Yuval pose une question rhétorique du genre: Est-ce que nos pouvoirs en matière de science et de technologie feront de nous un jour un dieu? , il est temps de nous poser des questions difficiles sur la valeur que nous accordons à la technologie aujourd’hui et sur les autres valeurs que nous sommes prêts à sacrifier sur son autel.

L’ironie est que, simplement en nous posant sa question – en élevant la science et la technologie au-dessus des autres moteurs du progrès, au-dessus des autres valeurs – nous diminuons ce qu’est l’humanité et réduisons son avenir à un sous-ensemble de ce qui pourrait être.

C’est comme si nous avions échangé les très grandes questions qui définissent et dirigent le progrès – «Qu’est – ce que la vie humaine?» Et «Que devrait être la vie humaine?» – pour les spectateurs «Que la technologie réserve-t-elle à notre avenir? futur?”

C’est pourquoi je soupçonne que plus nous débattrons de la relation entre technologie et progrès, plus nous aboutirons à des progrès réels.

Je pense que nous nous rappellerons des autres grands moteurs de progrès à la disposition de la société, tels que «loi», «culture» et «religion», qui ne sont pas moins mais ne sont pas plus chargés de valeurs que la «technologie».

Je pense que nous nous rappellerons d’autres valeurs, dont certaines pourraient facilement faire un pas en arrière à mesure que la technologie «progresse». Par exemple, à mesure que notre pouvoir d’améliorer le corps humain avec la technologie deviendra plus fort, notre croyance fragile mais fondamentale en la dignité intrinsèque de chaque personne humaine s’affaiblira-t-elle?

Je pense que nous deviendrons moins timides et plus confiants quant à notre capacité à naviguer dans le présent. Dans le récit techno-utopique, nous pouvons nous sentir réduits au silence par notre propre ignorance. En dehors de ce récit, nous pouvons nous sentir enhardis par notre sagesse, notre expérience, nos notions bien établies du bien et du mal.

Je pense que nous nous souviendrons des exemples où la société a façonné la technologie , et non l’inverse, et en tirons notre force. Au siècle dernier, aucune technologie n’avait autant de battage que l’énergie atomique. Et pourtant, il suffit de regarder la diversité des façons dont différentes cultures l’ont incorporé. Aux États-Unis, où la conversation sur le nucléaire tourne autour de la responsabilité, aucune nouvelle centrale nucléaire n’a été ouverte depuis l’accident de Three Mile Island de 1979. En Allemagne, la conversation tourne autour du droit des citoyens de prendre des risques en public, la décision a été prise en 2011, fermer les 17 réacteurs du pays, en réponse directe à la fusion de Fukushima au Japon. En Corée du Sud, dont la capitale, Séoul, n’est qu’à 700 km de Fukushima, le soutien populaire aux 23 réacteurs du pays est resté fort. (Pour les Sud-Coréens, la technologie nucléaire est un symbole de l’indépendance de la nation.)

Et je pense que nous développerons plus de confiance pour repousser les visions monolithiques du «bon». L’idée même de la modernité n’était-elle pas supposée être, comme le disait Nietzsche, «Dieu est mort» – et par conséquent nous sommes libres poursuivre une variété radicale de «biens»? Une variété qui respecte et reflète les différences culturelles, les différences entre les sexes, les différences idéologiques… Après avoir travaillé dur pour éliminer une idée de la perfection, pourquoi devrions-nous tous nous aligner les unes derrière les autres?

Quatre petites questions pour reconquérir l’avenir

Rien de ce qui précède n’est à nier que la technologie fait partie intégrante de nos vies. Cela a été, depuis le premier ciseau de pierre. Mais nous tenons la pierre entre nos mains. Cela ne nous tient pas.

Ou le fait-il? Après des décennies de techno-évangélisation, nous risquons de croire que si nous pouvons le faire, nous devrions le faire.

Les titres récents (cybercriminalité, manipulation des médias sociaux, infrastructure publique piratée et accidents de voiture sans conducteur) bouleversent cette naïveté. Nous comprenons de plus en plus que nous devons séparer et réorganiser ces deux questions afin de créer un espace pour le retour de l’éthique et de la politique. Que devrions nous faire? Ici, la moralité et la société doivent être entendues. Que pouvons-nous faire? Ici, la science et la technologie devraient répondre.

De préférence dans cet ordre.

Il est difficile d’imaginer que nous y arriverons. Mais je pense que plus nous débattrons de la relation entre technologie et progrès, plus facilement nous pourrons trouver notre voix légitime à la demande de tout techno-chaman qui souhaite changer la société:

1. Quel est votre but?

2. Qui sera blessé?

3. Qui va en bénéficier?

4. Comment saurons-nous?

En posant ces quatre questions simples, de manière constante et persistante, nous pouvons réinjecter de l’humilité dans nos efforts technologiques. Nous pouvons élargir la participation à l’orientation de la technologie. Et nous pouvons recréer des visions véritablement partagées du futur.

Pied de page graphique

Source: Chris Kutarna