Êtes-vous plus intelligent qu'une voiture autonome?

En 1967, le philosophe philippin Philippa Foote a proposé le «problème du chariot». Depuis lors, les philosophes et d'autres ont débattu de ce dilemme moral. Phrasé le plus succinctement, le problème de chariot pose:

Est-ce que le conducteur d'un tramway fugitif, sûr de frapper et de tuer cinq ouvriers, redirige le tramway sur une autre voie pour qu'il ne tue qu'un seul ouvrier?

Source: James Lin / FreeImages

De nombreuses permutations de ce problème ostensiblement simple ont été mises en avant. Maintenant, il y a un nouveau livre rassemblant plusieurs de ces arguments: The Trolley Problem Mysteries de FM Kamm, qui enseigne la philosophie et la politique publique à Harvard, et édité par Eric Rakowski, professeur de droit à l'Université de Californie à Berkeley.

VOTRE VOITURE EST-ELLE ASSEZ INTELLIGENTE?

• Jeunes hommes, masculinité et rage
• Ce que cela signifie vraiment pour humaniser le travail
• Pourquoi "ne rien faire" améliore la productivité et le bien-être
• Points forts au travail
• Le soi, perdu et trouvé

Ce qui rend cette vieille question philosophique particulièrement opportune en ce moment est que les voitures autonomes doivent être conçues à l'aide d'algorithmes pour prendre précisément ces décisions de vie ou de mort.

Dans l'excellente Op-Ed du Los Angeles Times, votre voiture sans conducteur vous tue-t-elle pour que d'autres puissent vivre ?, nous apprenons, par exemple, qu'il peut arriver un moment où votre voiture prend une décision que vous n'aimez pas. Citant de l'op-ed:

C'est en 2025. Vous et votre fille êtes dans une voiture sans conducteur … Le véhicule autonome contourne un virage et détecte un passage pour piétons plein d'enfants. Il freine, mais votre voie est inattendue pleine de sable d'une glissade de roche récente. Il ne peut pas avoir de traction. Votre voiture fait quelques calculs: Si elle continue à freiner, il y a 90% de chances qu'elle tue au moins trois enfants. Devrait-il les sauver en vous guidant vous et votre fille de la falaise?

• Comment les dirigeants stupides peuvent créer des problèmes en milieu de travail
• Est-ce que les filles adorent vraiment les connards?
• Distraction: Comment l'évasion occasionnelle peut aider avec OCD
• Une raison d'être perfectionniste n'est pas mauvaise
• Le vrai secret de l'écriture: un entretien avec Natalie Goldberg

… Les voitures sans conducteur seront programmées pour éviter les collisions avec les piétons et les autres véhicules. Ils seront également programmés pour protéger la sécurité de leurs passagers. Que se passe-t-il en cas d'urgence lorsque ces deux objectifs entrent en conflit?

Est-ce que vous trouvez effrayant qu'un ingénieur, quelque part, programmera votre voiture pour décider si oui ou non vous tuer?

LA CRÉATIVITÉ EST-ELLE LA RÉPONSE?

Nous avons essayé le problème du chariot sur notre petite-fille de cinq ans. Comme on pouvait s'y attendre, sa réponse était émotionnelle et créative. Elle a continué à changer le problème de façon à ce que personne ne soit blessé. Ne pas accepter la prémisse comme donnée peut être un moyen de programmer nos machines pour déterminer un troisième choix qui est meilleur que les deux premiers, s'il y en a un.

Une autre question: un médecin peut-il (devrait) couper une personne en bonne santé pour récolter ses organes afin que cinq personnes malades puissent vivre? Bien sûr que non. Le Trolley Problem Mysteries va en profondeur (mais avec une clarté surprenante pour des concepts aussi complexes) pour faire la différence entre tuer et laisser mourir.

Ensuite, il y a la situation dans laquelle vous devez décider s'il faut abandonner votre gilet de sauvetage pour qu'un autre puisse vivre, et toutes les permutations possibles de cela. Prenez garde, cependant: dès que vous prenez une décision intuitive, plus de détails sont ajoutés à la question qui peut alors vous faire gratter la tête dans la perplexité.

Si vous aimez réfléchir et discuter des dilemmes moraux avec vos amis, procurez-vous une copie de The Trolley Problem Mysteries . Et assurez-vous que celui qui conçoit votre future auto-conduite est assez sage pour la programmer rationnellement (ou pour votre bénéfice personnel, ce qui peut ne pas être la même chose).

Copyright (c) 2016 par Susan K. Perry, auteur de Kylie's Heel