L’avenir de l’intelligence artificielle : les portes tournantes de la Maison Blanche

« My general observation is that [AI] has been seeping into our lives in all sorts of ways, and we just don’t notice… »

Barack Obamaⁱ

Les États-Unis ont historiquement une longueur d’avance en matière de recherche fondamentale sur l’intelligence artificielle (AI), principalement soutenue par le financement public fédéral et les travaux des laboratoires de recherche gouvernementaux. L’administration Obama, vers la fin de son mandat, a rendu public un rapport sur l’avenir de l’intelligence artificielle (2016)ⁱⁱ. S’y reflètent les fruits de réflexion recueillis lors d’un appel au publicⁱⁱⁱ ainsi que de cinq ateliers^iv co-organisés par la Maison Blanche et différentes institutions partenaires à travers le pays au printemps et en été de la même année. Le rapport officiel comprend 23 recommandations faisant ressortir 4 points essentiels axés sur l’enjeu de la gouvernabilité des algorithmes et systèmes intelligents, à savoir :

• le potentiel avéré des applications de l’intelligence artificielle pour relever les défis socioéconomiques et optimiser l’efficacité dans la prestation des services gouvernementaux;
• le rôle clé des agences fédérales dans la promotion de l’AI et de l’innovation;
• la nécessité d’assurer une réglementation adaptée à l’AI en tirant profit d’expertises techniques et transdisciplinaires;
• la gestion des risques d’utilisation de systèmes intelligents, notamment en assurant le caractère juste, équitable et transparent des processus décisionnels faisant appel à l’intelligence artificielle ainsi que l’emploi des armes létales (semi-)autonomes dans le respect du droit international humanitaire.

Parlant de l’automatisation de comportements intelligents en tant que la clé de voûte des applications de l’AI, l’enjeu de la gouvernabilité recommande aux acteurs une attitude empreinte d’optimisme, mais aussi de prudence : comment assurer à l’humain et à l’État de droit maîtrise et dernier mot sur la technologie en gardant un esprit ouvert et éclairé sur ses fonctionnement, risques et bénéfices ? Cette incertitude rejoint plusieurs préoccupations énoncées par différentes associations et institutions. Dans son panel présidentiel sur les promesses à long terme l’IA (2009)^v, l’Association for the Advancement of Artificial Intelligence (AAAI), au cours de sa conférence d’Asilomar, promeut un usage responsable de l’intelligence artificielle sans basculer vers l’utopie ou le catastrophisme : le mi-chemin raisonnable consiste à mettre l’accent sur la compréhension des systèmes de calcul complexes et une vérification assidue de leur rendu de résultats afin d’en minimiser les effets (sociaux) inattendus.

Dans le but d’optimiser les bénéfices sociétaux que l’on peut tirer des avancées en intelligence artificielle, la conférence de Puerto Rico (2015), organisée par l’association Future of Life Institute^vi, relève pareillement, comme priorités de recherche future, les difficultés de maintenir un contrôle humain significatif sur des systèmes pilotés par l’apprentissage (automatique) en continu ainsi que l’établissement des garanties de (cyber)sécurité, de fiabilité et de vérifiabilité. D’où également l’intérêt de promouvoir une meilleure collaboration et interopérabilité homme-machine, requérant des adaptations et raffinements au niveau technique mais aussi un investissement conséquent au plan de la formation (data literacy) pour permettre aux adultes de demain de naviguer dans un monde de haute technicité. En fin de compte, gouvernabilité rime avec prévisibilité à la fois des comportements et des résultats obtenus des systèmes intelligents afin que ceux-ci évoluent à l’intérieur des attentes initiales des développeurs et de toutes les parties prenantes.

Parallèlement au rapport officiel (2016) de l’administration Obama, un plan national stratégique de recherche et de développement en intelligence artificielle (2016) a été établi par le National Science and Technology Council du Cabinet^vii. Sans prévoir de programme de recherche spécifique pour les agences fédérales, ce Plan stratégique identifie un ensemble d’objectifs considérés prioritaires pour le financement fédéral en ce qu’ils recoupent des aspects d’intérêt jusque-là sous-financés par l’investissement privé, notamment en matière de recherche fondamentale et à long terme sur les développements de l’IA, d’évaluation de la fiabilité et de la sécurité des systèmes intelligents ainsi que la compréhension de ses enjeux sociaux, éthiques et juridiques (Figure 1).

Figure 1 : AI R&D Strategic Plan

https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/national_ai_rd_strategic_plan.pdf

Ces initiatives reflètent une prise de conscience croissante de la difficulté d’implanter une neutralité axiologique à une technologie par et au sein d’une société ancrée sur ses valeurs propres. Aux biais de conception initiaux et plus ou moins conscients des développeurs s’ajoutent les effets éventuellement discriminatoires des systèmes d’intelligence artificielle au niveau de leur accessibilité et application. Dans son premier rapport quinquennal sur les avancées de l’intelligence artificielle et leurs impacts sur les communautés (2016)^viii, les experts participant au projet One Hundred Year Study on Artificial Intelligence lancé au printemps 2014 par l’Université Stanford, font état de la nécessité d’acquérir une expertise technique à tous les niveaux du gouvernement afin d’appréhender et d’approfondir les interactions entre technologies, objectifs de programmation et valeurs sociétales.

D’un, l’infiltration des systèmes intelligents dans le quotidien emporte des conséquences indéniables sur la main-d’œuvre et le marché de l’emploi. Plus qu’une simple mécanisation des tâches déjà vue avec différentes vagues d’industrialisation, l’humain se serait trouvé pour la première fois un substitut efficace pour l’exécution des tâches non seulement manuelles, mais cognitives. Dans son rapport de suivi (2016) au compte-rendu officiel de l’administration Obama^ix, le Council of Economic Advisers (CEA) du Bureau exécutif du président adopte une position nuancée par rapport à l’impact de l’automatisation mue par l’intelligence artificielle. Cette dernière ne représente encore qu’une petite fraction du poids macroéconomique comparé à d’autres secteurs comme le logement, la vente au détail, l’éducation et la santé. Plus particulièrement, en dépit d’avancées majeures en apprentissage automatique (machine learning), le concours humain garde une plus-value appréciable dans les fonctions faisant appel à l’intuition, à la créativité ainsi qu’aux compétences relationnelles (empathie), sociales (sens commun et adaptabilité situationnelle) et culturelles (mise en contexte). Si des emplois peu qualifiés à bas salaire s’avèrent les plus perméables à l’automatisation et menacés par l’intelligence artificielle (Figure 2), l’impact se situe moins dans la polarisation des salaires qu’un taux général décroissant de participation au marché de l’emploi à cause du roulement élevé du personnel déplacé par la technologie et de la période de temps plus ou moins longue pour les rendre qualifiés à occuper d’autres (nouveaux) emplois créés par la technologie.

Figure 2 : Probabilité d’automatisation des emplois en fonction du salaire horaire

https://obamawhitehouse.archives.gov/sites/default/files/page/files/20160707_cea_ai_furman.pdf

De deux, le Big Data, indispensable pour ajuster les courbes d’apprentissage automatique (machine learning), soulève à juste titre des inquiétudes au niveau de la protection de la vie privée et le respect des droits civils du citoyen. À la traçabilité reconnue des plateformes numériques s’ajoute le coût décroissant de la collecte de données ainsi que de leurs stockage et traitement, conjugué à la disponibilité accrue des nouvelles sources de données et l’efficience des analyses pouvant être conduites en temps réel : voilà autant de conditions favorables à une ruée vers l’or informationnel grâce aux algorithmes et systèmes intelligents découvrant corrélations, patterns et prévisions à partir des constellations de données massives a priori insignifiantes. Trois rapports, rendus publics à deux ans d’intervalle, témoignent de l’intérêt porté à cette problématique par l’administration Obama^x. Comme nous le rappelle le scandale d’actualité Facebook-Cambridge Analytica, l’utilisation des données à des fins détournées, non autorisées ou inattendues constitue la préoccupation centrale du citoyen numérique. En même temps, l’intelligence artificielle s’avère le plus à même d’affiner les méthodes de chiffrement et de cryptage garantissant l’anonymat en ligne. Par ailleurs, l’absence de parti pris intentionnel ne garantit pas dans tous les cas un apprentissage automatique (machine learning) exempt de partialités à partir d’un terrain « contaminé » par des antécédents discriminatoires notamment en matière d’octroi de crédit, d’accès aux études supérieures et de recrutement, dans la mesure où les algorithmes, fort de leurs statistiques computationnelles, prennent en compte dans leurs prévisions des facteurs prohibés comme la race ou toute autre caractéristique individuelle constituant dorénavant un motif de discrimination. De l’autre côté, les systèmes intelligents permettraient de corriger des inégalités sociales en élaborant des mécanismes d’évaluation alternatifs du crédit ou encore en éliminant les biais subjectifs (p.ex. de projection) dans le processus de recrutement.

En effet, l’attention est depuis longtemps passée de la résistance (pour ou contre l’IA) à l’adaptation (comment faire mieux) face à une révolution irréversible mue par autant de forces transformatrices que ses prédécesseurs industriels. À cet égard, l’optimisme mesuré des décideurs américains peut se résumer par l’adage bien connu « le problème, c’est aussi la solution ».

Jie Zhu

Références

Blogue réalisé grâce à la Chaire Lexum.

Ce contenu a été mis à jour le 24 juillet 2018 à 13 h 38 min.