Choisiriez-vous de tuer une personne pour en sauver cinq? Voici le dilemme du tramway, un scénario utilisé depuis des décennies en éthique, mais qui est plus pertinent que jamais avec l’arrivée des voitures autonomes.
Un tramway fonce à vive allure, sans pouvoir freiner, vers cinq personnes qui se trouvent plus loin sur les rails. Vous assistez à la scène et vous pourriez abaisser un levier qui ferait dévier le train vers une autre voie. Les cinq personnes seraient ainsi sauvées. Mais sur cette seconde voie se trouve une autre personne qui, elle, mourra. Abaissez-vous le levier ?
De nombreuses études ont démontré que la grande majorité des gens (90%) disent que oui, justifiant leur choix par un principe « utilitariste », selon lequel mieux vaut sacrifier une vie pour en sauver cinq.
Mais voici une troublante variante de ce dilemme (initialement posé par la philosophe britannique Philippa Foot en 1967). Le train fonce encore vers cinq personnes. Cette fois vous assistez à la scène depuis une passerelle surplombant les rails. Vous êtes une personne frêle, mais à vos côtés se trouve une personne obèse, suffisamment lourde pour arrêter le train. La poussez-vous sur les rails ?
Ici, le même calcul utilitariste commanderait de répondre que oui. Mais cette fois, la majorité des gens assurent qu’ils ne le feraient pas. Expliquer cette différence a fait couler beaucoup d’encre. Il serait ainsi moralement plus difficile d’être celui qui tue volontairement quelqu’un que d’être celui qui choisit, entre deux accidents inévitables, le moins terrible d’entre eux. Et il y a un monde entre actionner un levier et pousser un être humain devant un train.
Avec l’avènement de la voiture autonome (mais aussi des agents de conversation intelligents et des robots dans les usines, les hôpitaux et ailleurs), de telles expériences de pensée n’ont jamais été autant d’actualité.
Imaginez une voiture sans un conducteur, dont l’algorithme peut prédire qu’elle glissera sur une plaque de verglas et tuera cinq piétons. Ce même calcul pourrait toutefois lui commander de dévier de sa route à tel moment et, cette fois, en tuer un seul. Ce problème du tramway