Dans cet article de blog, nous explorons les dilemmes éthiques des voitures autonomes et comment nous pouvons déterminer leurs responsabilités et leurs limites techniques.
Nous sommes confrontés à de nombreux conflits dans nos vies. Nous discutons avec les autres pour savoir quelle opinion est juste et nous nous interrogeons sur la conformité éthique de nos actions. De plus, nous nous interrogeons sur la raison pour laquelle nous devrions faire ce qui est « éthiquement juste » et ce qui est « juste ». Autrement dit, nous aspirons tous à savoir ce qui est « juste » ou « bon » dans nos vies. Alors, qu'est-ce que l'éthique ? Nous pourrions en donner une définition longue et complexe, mais considérons-la comme quelque chose que nous, êtres humains, sommes censés faire, et rappelons-nous l'affirmation précédente. Nous sommes confrontés à de nombreux « conflits éthiques » dans nos vies.
Nous sommes confrontés à de nombreux types de conflits éthiques, mais dans cet article, nous nous concentrerons sur les questions éthiques liées à la science et à la technologie. Ces questions sont nombreuses. Cependant, elles se concentrent souvent sur la question de la responsabilité : « Qui est responsable ? » Lorsqu'une technologie est développée et qu'elle cause un préjudice à quelqu'un, la question de la responsabilité a toujours fait débat, notamment lorsqu'il s'agit d'un humain utilisant ou dirigeant une machine. La responsabilité peut être imputée à un groupe ou à une personne spécifique, mais le débat persiste lorsque la responsabilité est ambiguë, comme lorsqu'il s'agit de l'intelligence artificielle.
Comme mentionné précédemment, la responsabilité peut être floue lorsqu'une machine prend des décisions et agit de manière autonome plutôt que d'être pilotée par un humain. Les voitures autonomes, en particulier, sont monnaie courante dans notre quotidien, mais le commun des mortels n'a pas souvent l'occasion de réfléchir sérieusement à leurs limites ou aux enjeux éthiques. C'est pourquoi nous avons choisi les voitures autonomes comme sujet de cet article.
Alors, quels sont les enjeux éthiques liés aux voitures autonomes ? Une voiture autonome est une voiture qui se conduit toute seule, sans conducteur. Les enjeux éthiques liés aux voitures autonomes deviennent plus importants en cas de préjudice concret, comme une blessure ou des pertes financières. Appliquée aux voitures autonomes, la question se pose : « Qui devrait être tenu responsable des dommages causés par ces véhicules ? »
Avant d'aborder ce sujet, il convient de considérer que le sujet de la responsabilité éthique est l'agent éthique. Autrement dit, un agent éthique utilise un jugement rationnel pour déterminer si ce qu'il fait est juste. Si, malgré un jugement rationnel suffisant, un comportement éthiquement répréhensible est commis, la personne en est tenue responsable. Il est donc nécessaire d'examiner si les véhicules autonomes peuvent être définis comme des agents éthiques.
Les discussions traditionnelles sur l'éthique des robots supposent que les robots sont des agents éthiques agissant selon leurs propres principes éthiques. Cependant, il est difficile de présumer que les véhicules autonomes agissent selon leurs propres principes éthiques et leur propre jugement rationnel. Par conséquent, il existe deux principaux domaines de responsabilité éthique pour les véhicules autonomes. Le premier concerne la conception des voitures autonomes pour prendre des décisions en cas d'accident. Il s'agit d'un « dilemme éthique » classique, par exemple : à qui la voiture autonome doit-elle accorder la priorité si des blessures sont inévitables : celles du piéton ou de l'occupant ? Le second concerne les défauts techniques : qui doit être tenu responsable si un passager ou un piéton est blessé en raison d'un défaut de fabrication ?
Lorsqu'on aborde les questions éthiques liées aux voitures autonomes, la première question est la principale ; c'est pourquoi cet article se concentrera uniquement sur elle. Dans la première, on distingue deux cas : ⓐ entre passagers et piétons, et ⓑ entre piétons. Le problème ⓐ peut être illustré par le cas de la falaise. Si un véhicule autonome se trouve sur un pont étroit et est sur le point d'entrer en collision avec un bus venant en sens inverse, le véhicule est confronté à un dilemme : doit-il continuer sa route et percuter le bus, ou doit-il sortir du pont et tuer ses occupants ? Le cas ⓑ peut être décrit comme le dilemme du trolley. Un trolley, dont les freins sont cassés, circule sur les voies, avec cinq ouvriers sur les rails. Si le train continue de rouler, les cinq ouvriers périront. Le conducteur peut changer de voie pour un autre rail occupé par un seul ouvrier. Le dilemme se pose : faut-il ou non changer de voie ? Le sacrifice de quelques-uns pour le plus grand nombre, ou le sacrifice du plus grand nombre pour sauver quelques-uns.
Alors, quel est le choix éthique à faire pour les voitures autonomes face à un tel dilemme ? Il existe trois grandes approches éthiques en intelligence artificielle (IA), en robotique et dans le domaine des véhicules autonomes : l’approche descendante, l’approche ascendante et l’approche hybride.
L'approche descendante consiste à choisir une théorie éthique spécifique, puis à analyser les exigences du système informatique afin de concevoir des algorithmes et des sous-systèmes capables de la mettre en œuvre. Autrement dit, les algorithmes sont mis en œuvre sur la base d'un système de théories éthiques, telles que l'utilitarisme de Bentham et Mill ou la déontologie de Kant. Dans cet article, nous examinerons l'utilitarisme et la déontologie, deux théories éthiques qui représentent l'approche descendante.
Commençons par l'utilitarisme. Lorsqu'on pense à l'utilitarisme, on pense souvent à l'expression « le plus grand bonheur du plus grand nombre ». Autrement dit, l'approche utilitariste considère l'utilité de tous les membres d'un groupe. Si l'on considère l'utilitarisme comme un grand algorithme, il peut comporter de nombreux sous-algorithmes. Par exemple, il existe un sous-algorithme pour lequel les valeurs d'utilité doivent être prioritaires. Appliquons cela à l'exemple de la falaise évoqué précédemment : il y a plus de personnes dans le bus que dans la voiture autonome. Par conséquent, en cas de collision avec le bus, la voiture autonome chutera de la falaise, car les frais médicaux seront plus élevés.
Cependant, dans une situation de collision réelle, un algorithme utilitariste utiliserait un sous-algorithme pour décider qui frapper. Ce processus de « sélection » des victimes peut engendrer divers problèmes, notamment la possibilité de violer le principe d'égalité consacré par le 11e amendement. L'utilitarisme présente un aspect positif : l'algorithme supérieur du « plus grand bonheur du plus grand nombre » est lui-même facile à informatiser. Cependant, le calcul de l'utilité de chaque individu dans une situation de conflit reste complexe, et soulève des questions fondamentales quant au décompte des vies humaines comme mesure de l'utilité.
Le deuxième aspect est l'aspect déontologique. La déontologie stipule que l'évaluation morale d'une action est déterminée par sa conformité à un « impératif déontique » universellement énoncé, quelles qu'en soient les conséquences. Les impératifs déontiques peuvent se résumer ainsi : l'impératif d'universalité : « Agis de telle sorte que la raison de ta volonté soit toujours et simultanément un principe universel de législation », et l'impératif d'humanité : « Agis de telle sorte que l'humanité, en toi comme chez autrui, soit toujours et simultanément une fin et jamais un moyen ». Une approche déontologique du cas du précipice susmentionné suivrait l'impératif déontologique : « Ne jamais traiter l'humanité comme un moyen pour parvenir à une fin ». Dans ce cas, la voiture autonome ne considérerait ni le conducteur ni les passagers du bus comme des « moyens », et s'efforcerait donc d'éviter la collision autant que possible sans valoriser leur vie. Les algorithmes éthiques fondés sur une approche déontologique peuvent être considérés comme positifs dans la mesure où ils peuvent être développés de manière à respecter la vie humaine dans certaines situations.
Cependant, l'approche déontologique présente également certaines limites. En premier lieu, celles-ci découlent de l'application pratique des impératifs déontologiques. Par exemple, elle propose des « principes législatifs universels », ce qui soulève la question de l'existence de principes universels applicables à toutes les situations. De plus, les critères de définition des principes universels peuvent être subjectifs. Enfin, si la vie humaine est prioritaire en toutes circonstances, il peut être difficile de porter des jugements éthiques sur d'autres préjudices.
Outre les approches descendantes évoquées jusqu'à présent, il existe des approches ascendantes et hybrides. Les approches ascendantes impliquent la conception d'algorithmes basés sur des données d'apprentissage empiriques. Elles peuvent s'avérer plus efficaces en situation réelle qu'une approche descendante, car l'algorithme est construit pour refléter des cas empiriques au fur et à mesure de son apprentissage à partir des données. L'approche hybride, quant à elle, combine les atouts des approches descendantes et ascendantes pour concevoir des algorithmes utilitaires, recherchant une utilité maximale, et déontologiques, respectant des principes éthiques universels.
Les questions éthiques liées aux véhicules autonomes abordées dans cet article sont susceptibles de prendre plus d'importance à mesure que la technologie évolue, et nous devrions concentrer nos efforts sur l'exploration de différentes approches pour résoudre les dilemmes éthiques auxquels les véhicules autonomes seront confrontés, et sur leur mise en œuvre pratique.
