Changement climatique, inégalité et singularité

Alors que l'humanité poursuit sa course vers le XXIe siècle, nous affrontons des problèmes d'une ampleur et d'une ampleur sans précédent. Le plus grand et le plus complexe est le changement climatique, que le philosophe Dale Jamieson appelle le «plus grand problème d'action collective au monde». Les causes de ce problème sont diverses, réparties entre des milliards de personnes dans l'espace et le temps. de la faute. Presque personne ne se sent directement responsable de notre vie quotidienne: conduire pour aller au travail, faire ses courses à l'épicerie et poursuivre sa carrière. Même ainsi, les émissions de carbone de nos modes de vie réchauffent la planète, et cette crise climatique affectera les personnes réelles ainsi que les animaux non humains et les écosystèmes naturels. La crise climatique s'accompagnera d'une augmentation des catastrophes naturelles et d'une diminution des terres arables et de l'eau potable. Les personnes vivant dans les sociétés en développement, en particulier dans les pays situés près du niveau de la mer, porteront le fardeau le plus lourd, tandis que ceux qui vivent dans les pays riches auront une certaine mesure de protection. Bien sûr, les inégalités vont disperser les impacts, même au sein des nations riches, alors que l'élite s'isole du changement climatique tout en laissant les communautés marginalisées se débrouiller seules.

Alors que la science et la technologie évoluent rapidement, l'éthique et la politique qui pourraient atténuer l'impact des inégalités stagnent. Nous n'avons pas encore de réponse politique réaliste à l'inégalité, surtout lorsqu'elle est appliquée au changement technologique. Il est assez facile de voir des sociétés divisées en ultra-riches, qui ont accès à des technologies qui prolongent la vie, comme des organes synthétiques et des prothèses informatiques, et un prolétariat appauvri qui existe largement pour produire les produits que les riches consomment. Ce serait simplement l'extension logique des tendances actuelles, extrapolée dans un proche avenir. L'air pur et l'eau potable peuvent devenir juste un autre avantage que les riches apprécient au détriment des autres. La biotechnologie sera la nouvelle chirurgie plastique, car quelques privilégiés redessinent leur corps comme des accessoires de mode. En même temps, l'intelligence artificielle pénétrera de plus en plus dans la société, assumant de nombreuses fonctions de base autrefois occupées par les êtres humains, créant une vaste réserve de travailleurs excédentaires et exacerbant l'instabilité sociale.

Source: Photos de dépôt

J'ai regardé le mouvement Singularity avec un certain intérêt pendant plusieurs années. Ce sont les gens qui croient en une version technologique de la Seconde Venue, dans laquelle des machines divines sauvent les êtres humains du vieillissement et de la mort. Les machines superintelligentes guériront le cancer, trouveront de nouvelles sources d'énergie et permettront aux gens d'adapter leur corps et de coloniser l'espace. Les gens de la singularité sont généralement hyper-optimistes, comme tout ce qu'ils ont à faire est de vivre encore quelques décennies et tout sera doré. Ils empruntent des tropes religieux sans trop réfléchir aux conséquences de ce geste, comme s'il n'y avait aucun inconvénient à prédire la fin de l'histoire. Ils ignorent en grande partie la question de l'inégalité économique et accordent peu d'attention au changement climatique, car la technologie va tout régler.

Je crois en fait à certains aspects de l'hypothèse de la singularité. Je trouve qu'il est convaincant que l'intelligence humaine sera atteinte et dépassée par les esprits synthétiques dans un avenir proche (voir Ray Kurzweil sur ce point). Je suis heureux que certains technologues, comme ceux de MIRI, portent attention aux problèmes éthiques présentés par la superintelligence. Mais je ne vois toujours pas comment les avancées technologiques suffiraient à elles seules à faire face aux inégalités mondiales et au changement climatique. En fait, les solutions technologiques apparaissent comme une autre façon d'éviter le problème, de reporter l'action à l'avenir lorsque nous devons agir maintenant. Jetez un oeil à ce qui se passe dans des pays comme le Bangladesh ou dans les pays insulaires de basse altitude. Ces personnes ont besoin d'un terrain solide pour vivre et purifier l'eau potable: les millions de réfugiés climatiques n'auront guère de raisons de croire que les choses iront mieux dans quelques décennies.

• Trouver de l'empathie et de l'éthique lorsque les chances se font sentir
• Quelqu'un devrait-il être responsable des actes qu'il ne peut pas contrôler?
• Tough-Love Conseils pour le succès de carrière
• 8 dur, grandes questions et mes réponses insuffisantes
• Amis de meurtre

La technologie seule ne présente pas de solutions éthiques ou politiques. Une grande partie de la recherche en robotique, par exemple, se fait avec des fonds militaires, afin de concevoir des machines à tuer plus parfaites. Afin de produire des sociétés plus justes et des sociétés plus durables sur le plan écologique, nous avons absolument besoin de solutions technologiques, mais nous avons également besoin d'une équité fondamentale. Il est possible d'imaginer un algorithme pour une gouvernance équitable, mais je ne vois personne faire ce travail. Et toutes les théories éthiques connues ont des défauts majeurs, de sorte qu'elles sont facilement exploitées. Si nous pouvons imaginer une intelligence divine, serait-ce un programme d'éthique kantien? Cela signifierait une catastrophe pour le monde naturel. Serait-ce en utilisant la théorie utilitaire? Cela permettrait à la superintelligence de tuer un grand nombre de personnes, tant que le bonheur global serait augmenté. Une intelligence artificielle pourrait-elle mettre l'écoféminisme en pratique? Pourrait-il être basé sur le socialisme démocratique? Peut-être. Mais jusqu'à présent, les technologues semblent être heureux que les riches obtiennent les premiers fruits et permettent à tous les autres de profiter des retombées des nouvelles technologies, dans une version à base de silicium de Reagan-Thatcher.

Ce qui est encore plus troublant, c'est une sorte de dédain pour la théorie politique et éthique. Nous avons traité des conséquences de la politique du marché pendant des décennies et les résultats n'ont pas été bons. La technologie n'a pas plus de propriétés attentionnées qu'un marché libre. Ces propriétés attentionnées devront dès le départ intégrer de nouvelles architectures, et il faudra aller au-delà de la reconnaissance faciale et de la simulation des émotions. Si je devais concevoir nos nouveaux seigneurs de robot, je ferais en sorte qu'ils protègent toutes les espèces, et pas seulement la vie humaine. Les lois de la robotique d'Asimov ne vont pas assez loin. Je ferais en sorte qu'ils comprennent la biologie de l'évolution et préservent les écosystèmes, en mettant l'humanité dans autant de relations symbiotiques que possible. Je voudrais qu'ils ne parviennent pas à l'égalité économique complète, mais certainement réduire les inégalités, en apprivoisant certains des excès du capitalisme. Je voudrais que nos seigneurs conçoivent des communautés habitables où les gens pourraient marcher et faire du vélo et vivre près des parcs et des forêts. Je voudrais que le "zoo des gens" soit plutôt sympa.

Je pense que la Singularité pourrait bien être une réalité à l'horizon et pas seulement un fantasme, mais nous devons maintenant décider si elle sera utopique ou dystopique. Nous ne pouvons pas nous permettre de laisser tomber les jetons là où ils le peuvent. Ceux qui travaillent dans les domaines techniques doivent prendre les meilleures recherches de pointe en sciences humaines et les intégrer dans leurs systèmes intelligents. Sinon, nous pourrions nous retrouver avec de nouvelles technologies fonctionnant selon une éthique démodée. Le temps viendra où nous aurons besoin d'un moteur éthique, d'un algorithme d'économie politique, et les enjeux de mise en œuvre seront très élevés. Plus de coopération sera nécessaire entre les disciplines afin que la superintelligence ne soit pas seulement très intelligente mais aussi attentive et sage. C'est un ordre beaucoup plus grand que de fabriquer des panneaux solaires plus efficaces ou d'obtenir des drones pour livrer des pizzas. Et nous devons en faire le plus possible entre-temps, avec nos cerveaux mouillés et nos vieilles technologies, pour faire du monde un endroit meilleur et plus juste.

• Leader-as-Person: Qui êtes-vous? Comment conduisez-vous?
• Amis dans les hauts lieux de la vue d'Aristote
• Designers debutants? Pas si vite
• Quelles sont les causes de l'insécurité économique dans la douleur physique?
• Les médecins doivent écouter plus