La mise au point de véhicules autonomes: au-delà du dilemme du tramway 3.0
Un texte de Sarit Mizrahi
Les voitures autonomes ne sont plus simplement des produits de notre imagination. Bien que des véhicules entièrement autonomes ne soient pas encore disponibles sur le marché, la plupart des voitures modernes sont dotées de diverses capacités autonomes, telles que l’auto-stationnement, par exemple. Il existe essentiellement cinq niveaux d’automatisation des véhicules, avec le niveau 1 consistant uniquement en assistance à la conduite et le niveau 5 consistant en automatisation complète. À l’heure actuelle, les solutions accessibles au public n’ont pas dépassé le niveau 3, qui consiste d’une automatisation conditionnelle obligeant les utilisateurs à intervenir si nécessaire.
Il semble avoir deux raisons pour cette lente transition vers des voitures complètement autonomes. Pour commencer, les entreprises qui poursuivent cet objectif craignent que le public ne soit pas disposé à utiliser de telles voitures à cause de la peur de l’inconnu. C’est pourquoi de nombreux développeurs de voitures autonomes s’engagent dans une sorte de « théâtre du design » en concevant leurs voitures de manière à ce que les utilisateurs se sentent plus à l’aise. Afin d’accroitre la confiance du public dans les voitures autonomes, les fabricants incorporent certaines fonctionnalités qui ne servent aucun but, telles que les volants qui ne fonctionnent pas. L’objectif de l’incorporation de tels éléments dans les voitures autonomes est souvent de fournir aux utilisateurs l’illusion qu’ils ont un certain niveau de contrôle sur ces véhicules. En outre, d’autres caractéristiques de tels véhicules qui sont susceptibles de rendre les êtres humains extrêmement mal à l’aise – telles que les technologies de reconnaissance vocale et de reconnaissance faciale – sont intégrées de manière à être invisibles à l’œil humain.
La deuxième raison pour la lente transition vers les véhicules complètement autonomes est le fait que ces voitures présentent des risques élevés à la sécurité routière quand ils sont sur la route en même temps que les véhicules conduits par des êtres humains. Bien que les véhicules autonomes devraient sauver des centaines de milliers de vies en supprimant l’erreur humaine, la période de transition qui suivra l’introduction de ces véhicules sur le marché sera très probablement caractérisée par un niveau d’accidents accrus.
Ces deux raisons pour l’intégration ralentie des véhicules autonomes soulèvent de nombreuses questions sur la manière dont ces voitures devraient être réglementées. Devrions-nous réglementer le « théâtre du design »? Si oui, comment? Comment devrions-nous aborder les violations potentielles de la vie privée pouvant résulter de l’utilisation de voitures autonomes? Comment les voitures devraient-elles être programmées pour se comporter en cas d’accident imminent? Comment la loi peut-elle aborder de telles situations pour prévenir les risques accrus présentés par ces voitures?
Le problème du « théâtre du design »
L’un des problèmes les plus importants de la robotique en général, et des voitures autonomes en particulier, est qu’ils ont tendance à être compris en termes de forme plutôt que de fonction. Neil M. Richards et William D. Smart ont surnommé ce concept « The Android Fallacy ». Ils conseillent contre la tendance humaine à anthropomorphiser les robots. Selon eux, nous ne devrons pas permettre la forme de ces machines de guider la manière dont nous les réglementons; les règlements à cet égard devraient plutôt régir leur fonction. Comme le notent Richards & Smart, « [r]obots, even sophisticated ones, are just machines. They will be no more than machines for the foreseeable future, and we should design our legislation accordingly. Falling into the trap of anthropomorphism will lead to contradictory situations […] ».
À la lumière de qui précède, comment devrions-nous règlementer le « théâtre de design »? En effet, c’est un concept qui tourne autour de l’inclusion de caractéristiques dans des voitures autonomes qui n’ont aucune fonction outre de nous fournir un sentiment illusoire du contrôle. Toutefois, bien que ces caractéristiques manquent une fonction, ils ne sont d’ailleurs pas sans conséquence. En effet, ils sont de quelque sorte une fausse représentation qui découle d’un manque de transparence. À cet égard, bien que je sois d’accord avec Richards et Smart qu’il est crucial d’adopter une législation qui aborde la fonction d’une machine et non pas seulement sa forme, celle-ci n’est qu’une seule pièce du puzzle. Nous devons également imposer des règles pour empêcher les concepteurs d’utiliser des formes trompeuses, telles que des volants inutiles, dans des véhicules autonomes. C’est une chose si le public choisit d’utiliser les voitures autonomes en pleine connaissance de tous les risques qu’ils présentent – tant pour la sécurité que pour la vie privée – et c’est toute une autre s’il base leur décision sur un manque de transparence qui a pour but de les tromper. Si nous nous concentrons trop sur la régulation des fonctions des robots et négligeons d’élaborer des règles pour régir les choix de forme des concepteurs, qui sont principalement motivés par leur volonté de renforcer l’engagement des consommateurs, nous risquons de nous exposer à une autre série de problèmes indésirables.
La protection de la vie privée dans les voitures autonomes
Considérant que l’automatisation de niveau 3 est le niveau le plus élevé actuellement disponible sur le marché, les êtres humains jouent un rôle important dans la conduite des voitures autonomes et doivent intervenir lorsqu’il est nécessaire. Cette réalité pose certains problèmes pour déterminer qui est responsable en cas d’accident: est-ce que le fonctionnement défectueux de la voiture est responsable, ou est-ce que c’est plutôt la faute du conducteur qui a négligé d’intervenir lorsqu’il était requis? Dans le souci de se décharger de toute responsabilité, les fabricants et concepteurs d’automobiles autonomes ont commencé à intégrer des capteurs dans les voitures afin de surveiller les utilisateurs et afin d’aider à déterminer qui devrait être tenu responsable dans diverses circonstances. Toutefois, l’intégration de tels capteurs présente des risques graves pour la vie privée des utilisateurs.
À cet effet, il serait judicieux de réglementer en faveur de l’exploitation de technologies qui relient la sécurité routière et la protection de la vie privée de manière à ce que les problèmes de sécurité publique ne réduisent pas nos attentes raisonnables en matière de protection de la vie privée et de protection de la sécurité informationnelle. Malheureusement, la législation ne s’est pas toujours révélée suffisante pour protéger ce dernier. À cet égard, je pense qu’il est important de sensibiliser davantage le public à ces risques.
Outre tous les risques pour nos données personnelles qui existent actuellement à cause de l’Internet des objets, la collecte et l’utilisation de telles informations par un véhicule automatisé présentent des risques supplémentaires. Par exemple, et comme discuté plus en détail dans la section suivante, cette information pourrait être utilisée par un véhicule autonome afin de choisir la voiture avec laquelle s’heurter en cas d’accident. Si des personnes sont informées du risque que leurs données personnelles soient utilisées à leur encontre dans de telles circonstances, et que ces informations pourraient même être utilisées par des algorithmes biaisés contre certaines religions ou races, par exemple, afin de décider la trajectoire de collision des véhicules autonomes, je pense qu’elles participeraient activement aux discours orientés vers la résolution de ces problèmes.
Le dilemme du tramway 3.0
Le dilemme du tramway est une expérience de pensée éthique utilisée depuis longtemps pour évaluer la manière dont un individu devra manipuler un véhicule en mouvement qui présente un risque immédiat aux vies de plusieurs personnes. Le scénario initial impliquait un tramway approchant cinq personnes immobilisées sur les rails. La personne qui contrôle le tramway a le choix de tirer sur un levier pour le rediriger vers une autre voie, sur laquelle une seule personne est allongée. La question est: quelle option est la plus éthique? Ne rien faire et mettre en danger les vies de cinq personnes ou faire quelque chose et participer activement à la mort de quelqu’un qui aurait autrement vécu?
Ce problème a été réinventé plusieurs fois en développant des scénarios différents impliquant des voitures autonomes. Imaginez un véhicule autonome encaissé de tous les côtés – à droite un VUS dans lequel se trouve toute une famille, à gauche un véhicule ordinaire contenant une personne âgée et à l’avant un énorme camion transportant des billes de bois. Les billes de bois du camion commencent à se faufiler et le véhicule autonome doit décider où tourner – à droite ou à gauche. Si un humain conduisait cette voiture, nous maintiendrions simplement que sa décision était une réaction immédiate face à la situation. Cependant, les voitures autonomes doivent être programmées à l’avance pour réagir à un tel évènement. Leurs réactions risquent donc d’être considérées comme une décision délibérée.
Alors, comment faut-il programmer les véhicules autonomes pour réagir dans de telles situations? De quelles informations devraient-ils se disposer pour la prise de ces décisions? Devraient-ils prendre en compte l’identité des personnes dans les autres véhicules? Devraient-ils tourner vers le VUS et risquer la vie de toute une famille, car une telle voiture pourrait mieux résister à un accident? Où devraient-ils heurter le véhicule de la personne âgée parce qu’elle est la seule occupante de la voiture et elle approche la fin de sa vie? Le fait que ces types de questions soient même posés dans de telles situations est un problème en soi. Que se passe-t-il si un véhicule est programmé pour prendre des décisions en se basant sur de tels facteurs externes, puis finit par inclure des facteurs tels que la race, le sexe, les antécédents criminels, etc. dans le processus de prise de décision? Ce sont toutes des questions très difficiles pour lesquelles personne ne semble avoir de solution satisfaisante.
Cela dit, certains spécialistes ont tenté de repousser les limites de ce domaine en proposant des solutions intéressantes, bien que parfois irréalistes, à ces problèmes. Jason Millar, par exemple, a encore réinventé le dilemme du tramway. Sa version implique un véhicule autonome traversant un tunnel à voie unique. Tout à coup, un jeune enfant saute devant le véhicule et il doit décider quoi faire: foncer dans le tunnel pour sauver l’enfant mais tuer son passager, ou renverser l’enfant et sauver son passager.
Pour résoudre cette énigme, Millar suggère d’inclure des paramètres éthiques dans le véhicule. Ces paramètres permettraient au passager de choisir de renoncer à sa vie dans un tel scénario. Bien que cela puisse partiellement résoudre le problème, que se passera-t-il si le passager ferait le choix opposé? Serait-il alors tenu responsable pour l’homicide involontaire? Plus troublant encore est le fait que le fabricant de l’automobile pourrait tenter de se dégager de toute responsabilité en imposant le choix éthique à ses utilisateurs. Ainsi, alors que l’existence d’un tel choix pourrait résoudre le problème des individus altruistes parmi nous, nous devons également reconnaître que chaque personne ne sera pas disposée à sacrifier sa propre vie pour celle de quelqu’un d’autre.
Bien qu’il n’y ait actuellement aucune réponse vraiment satisfaisante au dilemme du tramway, version 3.0, cette expérience de pensée demeure importante. En effet, même s’il ne ressoude pas le problème, il sert à l’identifier clairement et à favoriser des débats importants sur ce sujet. Ces débats ont pour objectif de mieux faire connaître l’effet potentiel des voitures autonomes sur notre avenir. Son rôle est donc de créer un dialogue impliquant toutes les parties prenantes, qui puissent d’ailleurs participer dans la prise de décision concernant la manière dont les véhicules autonomes affecteront, ou devraient affecter, la société.
En participant au processus décisionnel, ils seront en mesure de faire le point sur les tentatives de l’industrie et de faire reconnaitre leur opinion. De cette manière, ils pourront contrôler les caractéristiques des véhicules autonomes avant qu’elles deviennent des problèmes véritables, tels que la proposition récente d’offrir la protection du droit d’auteur aux données saisies par les voitures autonomes. Ceci le rendra également moins probable pour les fabricants d’adopter des paramètres qui leur permettront d’imposer la responsabilité sur ses utilisateurs, le rendant ainsi plus susceptible de développer un système de responsabilité qui réussit. Cela favoriserait le consentement éclairé des utilisateurs de manière moins controversée que les paramètres éthiques modifiables, tout en établissant un cadre de responsabilité équilibré qui ne maintient pas les utilisateurs dans l’ignorance. Plus important encore, cela facilitera probablement la capacité du gouvernement à apporter les modifications règlementaires nécessaires pour tenir compte des voitures autonomes en modifiant les programmes de délivrance de permis, ou même en subventionnant la production de ces véhicules afin de les rendre plus accessibles au public et de réduire la marge d’erreur qui existera quand les voitures conduites par des êtres humains et les voitures autonomes sont sur la route simultanément.
Ce contenu a été mis à jour le 27 février 2019 à 17 h 16 min.