La Nouvelle-Zélande se dote d’une Charte des algorithmes

Écrit par Simon Du Perron – auxiliaire de recherche au Laboratoire de cyberjustice – Été 2020.

L’utilisation d’algorithmes d’intelligence artificielle par l’administration publique est de plus en plus répandue au sein de différentes juridictions à travers le monde. Alors que les algorithmes sont censés améliorer l’efficience et la qualité des services publics, certains se sont plutôt révélés avoir des conséquences dommageables, voire discriminatoires, à l’égard de populations particulièrement vulnérables. Pensons notamment aux cas de MiDAS aux États-Unis ou encore à SyRI aux Pays-Bas.  Plusieurs pays, dont le Canada, réfléchissent présentement à la meilleure manière d’encadrer l’utilisation d’algorithmes publics afin de protéger les citoyens sans toutefois freiner l’innovation.

La Nouvelle-Zélande n’y fait pas exception. Le 28 juillet dernier, son gouvernement a annoncé que le pays devenait le premier au monde à adopter une Charte règlementant l’utilisation d’algorithmes par l’administration gouvernementale. Plus d’une vingtaine d’agences gouvernementales, dont celles responsables de la justice, du revenu, des services correctionnels, de l’éducation et des services sociaux, sont signataires du document intitulé Algorithm charter for Aotearoa New Zealand. Un rapport publié en octobre 2018 soulignait que l’analyse des données constitue un aspect essentiel de la prestation de services publics à l’ère numérique et a identifié 32 algorithmes utilisés à différentes fins dans 14 agences du gouvernement néo-zélandais. La Charte vise à assurer la confiance du public à l’égard de l’utilisation de tels algorithmes par les autorités.

Il convient de souligner que la Charte ne contient pas de définition du terme « algorithme » puisqu’elle entend s’appliquer à n’importe quel type d’algorithme qui présente un risque élevé de conséquences dommageables pour le bien-être des individus. Le rapport précédemment mentionné catégorisait toutefois ceux-ci comme des « algorithmes opératoires » (operational algorithms), soit des algorithmes conçus pour analyser des données afin d’informer la prise de décision ou de rendre des décisions ayant un impact significatif sur les individus ou les groupes.

L’application de la Charte est déterminée par une évaluation du risque posé par une décision algorithmique. Ainsi, avant de mettre en place un algorithme décisionnel, une agence gouvernementale doit analyser son niveau de risque en fonction de deux critères, soit la probabilité d’occurrence d’une conséquence négative et son niveau d’impact relatif. L’application des engagements énoncés dans la Charte sera obligatoire dans le cas d’un niveau de risque élevé, fortement recommandée dans le cas d’un niveau de risque moyen et recommandée dans le cas d’un niveau de risque faible. 

Un parallèle peut être effectué avec la Directive sur la prise de décision automatisée adoptée en 2018 par le Conseil du trésor du Canada. Celle-ci prévoit une gradation des exigences en fonction d’une classification des systèmes décisionnels automatisés en quatre niveaux d’incidence algorithmique. Toutefois, la Directive formule des exigences qui sont beaucoup plus précises et granulaires que celles prévues par la Charte néo-zélandaise.

En effet, les obligations formulées par la Charte s’articulent autour de six principes :

• Transparence : fournir une explication claire de comment les décisions sont prises par les algorithmes notamment en rendant accessible de la documentation en langage clair sur le fonctionnement de l’algorithme et sur la collecte, le stockage et la sécurisation des données. Notons que la transparence constitue l’un des piliers du « gouvernement ouvert », une approche de gouvernance qui préconise une meilleure reddition de compte de la part de l’administration publique à l’égard des citoyens.

• Partenariat : intégrer une perspective Te Ao Māori dans le développement et l’utilisation d’algorithmes en conformité avec les principes du Traité de Waitangi. Cet engagement est particulièrement intéressant considérant le phénomène de surreprésentation des populations autochtones dans le système de justice pénale tant en Nouvelle-Zélande qu’au Canada.

• Mettre l’accent sur les gens : identifier et s’engager activement auprès des personnes, des communautés et des groupes qui s’intéressent aux algorithmes, et consulter ceux qui sont touchés par leur utilisation.

• Données : s’assurer que les données sont appropriées pour l’utilisation envisagée en s’assurant de bien comprendre leurs limites et en identifiant et en gérant les biais.

• Vie privée, éthique et droits humains : mettre en place un processus régulier d’examen par les pairs des algorithmes afin d’évaluer leurs conséquences insoupçonnées et d’y remédier.

• Supervision par l’humain : désigner un point de contact pour traiter les demandes de renseignements et les plaintes au sujet d’algorithmes publics, créer un canal de contestation ou d’appel des décisions automatisées et expliquer clairement le rôle des humains dans les processus où la prise de décision est informée par des recommandations algorithmiques.

Nous ne pouvons que voir d’un bon œil la souscription de plusieurs agences gouvernementales à l’égard de tels standards en matière de traitement algorithmique des données. Plusieurs juridictions semblent avoir de la difficulté à déterminer sous quel angle aborder la question de l’utilisation d’algorithmes afin d’automatiser certaines décisions. Le législateur québécois par exemple vient de déposer un projet de loi qui traite de façon anecdotique des décisions prises par des algorithmes dans une vaste réforme des lois en matière de protection des renseignements personnels.

Soulignons toutefois que l’adhésion à la Charte néo-zélandaise est volontaire et que les forces de l’ordre, qui ont récemment fait l’objet de critiques en lien avec l’introduction d’une technologie de reconnaissance faciale sans l’avoir préalblement annoncé, ne figurent toujours pas à la liste des signataires.

Certes, il reste à voir comment des obligations aussi larges que celles formulées par la Charte vont se répercuter concrètement dans la pratique des autorités administratives. Notons qu’une révision de la Charte visant à assurer que celle-ci rencontre ses objectifs est prévue après une période de 12 mois. En conclusion, il convient de lever notre chapeau à la Nouvelle-Zélande qui semble avoir entendu les appels de ceux et celles qui demandent de freiner les élans de la « gouvernementalité algorithmique ».

Ce contenu a été mis à jour le 15 octobre 2020 à 9 h 26 min.