Si vous avez suivi un cours d'éthique depuis une douzaine d'années, vous connaissez probablement le Trolley Problem, une expérience de pensée conçue par le regretté philosophe britannique Philippa Foot. Si vous n'avez jamais entendu parler de ce problème, laissez-moi vous décrire le scénario.
Imaginez que vous êtes sur une colline et voyez qu'il y a un train qui accélère, qui ne peut pas voir autour de la courbe. Cinq personnes sont attachées aux voies. Leur destin semble scellé. Par chance, cependant, vous vous trouvez à côté d'un interrupteur. Si vous lancez le commutateur, le train sera dévié sur une autre voie avant d'atteindre les malheureuses victimes.
Que faire? Détourner le train, bien sûr.
Mais il y a un problème. Sur la voie de garage, une personne s'occupe de ses affaires. Donc, si vous shunter le train, une personne va mourir.
Maintenant, que faites-vous? Le problème est un peu plus difficile. Pourtant, la plupart des gens disent qu'ils vont jeter l'interrupteur parce que, ce faisant, ils ont sauvé cinq vies au détriment d'un. C'est le reflet d'une façon de penser aux problèmes éthiques – la meilleure action est celle qui conduit au plus grand bien pour le plus grand nombre. C'est un calcul qui guide beaucoup de réflexion.
Mais comme le font les philosophes, ils compliquent les choses en changeant les conditions. Une variante est d'imaginer que vous êtes sur un pont et que le train se dirige vers les cinq personnes. Il n'y a pas d'interrupteur cette fois. Mais tout n'est pas perdu. Il se trouve que vous vous tenez à côté d'une très grande personne, quelqu'un de si grand qu'il ne fait aucun doute que si vous deviez les pousser et devant le train, le train s'arrêterait avant de frapper les cinq.
Maintenant, que feriez-vous? Bien que le résultat soit le même – sauver cinq vies en sacrifiant une personne – la plupart des gens ne seraient pas pousser la personne. En mettant littéralement la main sur quelqu'un, le résultat est déplacé d'un calcul à une émotion, de la mort étant une statistique, à une mort étant une tragédie de votre propre faire.
Alors que de nombreuses expériences de pensée sont idéales pour la discussion en classe sans application apparente dans la vie réelle, le problème du Trolley est à l'avant-garde de la révolution technologique actuelle. Les voitures sans conducteur, encore en phase de développement mais sûres d'apparaître dans la salle d'exposition dans les prochaines années, devront leur avoir programmé une réponse à cette expérience de pensée.
Imaginez que devant votre voiture sans chauffeur, cinq enfants marchent devant vous. La voiture, programmée pour la sécurité, bouge pour éviter de la heurter. Mais disons que ce faisant, il doit frapper un piéton sur le trottoir. Cinq pour un. Mais si au lieu de frapper une personne, pour éviter de frapper les enfants, il s'est écrasé contre un mur, tuant le conducteur.
Vous pouvez imaginer un certain nombre de variations. En voici deux: à la place des écoliers, ce sont des personnes âgées qui retournent au centre de gériatrie; au lieu d'un étranger sur le trottoir, c'est votre parent.
Des décisions similaires ont déjà été prises. L'armée doit décider qui et combien vont mourir pour accomplir une mission. Les procédures de triage à l'hôpital sont un autre exemple, tout comme l'établissement de protocoles pour les greffes concernant les organes en pénurie. La politique de la police concernant les situations de tireur actif consiste à ignorer ceux qui ont besoin d'aide et à s'en prendre au tireur.
Quel que soit l'algorithme que les programmeurs de Silicon Valley créent pour les voitures sans conducteur, il ne satisfera pas la sensibilité morale de chacun. Et c'est parce que c'est un dilemme éthique avec des réponses contradictoires. C'est une chose de s'asseoir devant un ordinateur pour prendre une décision morale. C'est une autre chose d'être dans la voiture quand la décision est personnelle.
La meilleure approche consiste peut-être à permettre aux conducteurs de choisir les options qu'ils souhaitent. Une autre consiste à désactiver le programme, auquel cas le point d'avoir une voiture sans conducteur n'a plus d'importance.
