Publié en partie dans Le Devoir, le 23 mai 2020
Dans le cadre de la lutte contre la pandémie de COVID-19, comme près d’une centaine de pays à travers le monde, le Canada envisage l’utilisation d’une application de suivi de contacts.
L’équipe de Mila, l’Institut québécois d’intelligence artificielle à Montréal, développe une technologie « intelligente » qui irait au-delà des méthodes traditionnelles pour prédire un risque personnel de contagion. Mais pourquoi développer une telle application? Quelles sont les conséquences pour les droits et les libertés fondamentales? Est-ce un nouvel outil de surveillance de masse? Ce sont des questions légitimes et il est essentiel d’y répondre et de lever les malentendus.
Tout d’abord, il n’existe pas de solution simple à la pandémie. Une bonne stratégie pour limiter la propagation du virus doit intégrer différents dispositifs. Un de ces dispositifs, combiné aux tests biologiques et aux mesures de distanciation physique, est le suivi de contacts grâce aux appareils mobiles personnels.
L’approche de Mila se distingue par la philosophie qui anime le projet, les buts visés et les moyens utilisés pour les atteindre. Avec cette application, l’idée est d’aider les citoyens à être les acteurs de leur propre santé et de celle de leurs proches, et d’accroître leurs capacités à se protéger contre le virus. L’application a ainsi pour but de fournir une information pertinente à ses utilisateurs, d’améliorer leur connaissance des risques d’infection et d’émettre des recommandations ciblées. Grâce à sa capacité prédictive, elle permet d’avertir les utilisateurs potentiellement infectés avant même qu’ils développent des symptômes de la maladie, au moment où ils sont justement les plus contagieux sans le savoir. L’application permet également d’informer les autorités publiques de la santé de l’évolution de la pandémie avec des données épidémiologiques complémentaires, permettant de voir venir des flambées du virus.
Mais, nous le savons, les dispositifs technologiques ne sont pas neutres. C’est pourquoi il est crucial de prendre en considération les principes éthiques et les valeurs démocratiques dès la conception des systèmes d’IA afin de déterminer leur utilisation légitime. Les chercheurs de Mila ont contribué à la Déclaration de Montréal pour un développement responsable de l’IA (2018) dont les principes constituent des balises éthiques pour la conception de l’application. En outre, le développement de cette application se fait dans le cadre plus général de la Charte canadienne du numérique (2019) et respecte scrupuleusement la Charte canadienne des droits et libertés (1982). L'application respecte aussi les principes énoncés dans Déclaration commune des gardiens du droit à la vie privée sur les applications de traçage des contacts exposés à la COVID-19 du 7 mai 2020, et est également conforme aux récentes recommandations du rapport du groupe consultatif d'experts sur la société, la technologie et l'éthique dans une pandémie (STEP), convoqué par le CIFAR à la demande de Mona Nemer, conseillère scientifique principale du Canada, qui souligne la nécessité de transparence, d'ouverture et de sécurité pour le lancement de toute application.
Mais, concrètement, comment l’application fonctionne-t-elle ? Et quels sont les principes éthiques et juridiques qui encadrent sa conception ? En croisant de multiples indicateurs sur l’état de santé des utilisateurs, leurs caractéristiques personnelles et leurs interactions avec d’autres usagers, l’algorithme de l’application déterminera la probabilité d’être porteur du virus. Mais une probabilité est toujours difficile à interpréter et on peut facilement se méprendre sur le sens d’un chiffre. En outre, ce genre d’information est anxiogène pour les utilisateurs, ce qui doit être évité selon le principe de bien-être (Déclaration de Montréal). C’est pourquoi l’information pertinente transmise sera la traduction de la probabilité d’infection en recommandations personnalisées qui permettent à chacun de prendre des décisions informées sur une base quotidienne. Les utilisateurs recevront des notifications leur suggérant d’éviter de sortir dans des lieux publics, de garder plus de distance, de se faire livrer, ou encore de consulter pour se faire dépister.
Dans le respect du principe d’autonomie et des libertés fondamentales, l’application encourage les utilisateurs à poser les bons gestes mais ne les y contraint pas et ne peut les surveiller parce que les données les plus sensibles restent sur l’appareil. Par ailleurs, l’installation de l’application ne sera pas obligatoire, pas plus que son utilisation. Les utilisateurs devront exprimer leur consentement au moment de l’installation mais aussi dans les différentes étapes du partage de leur information avec l’application.
Conformément aux principes éthiques et juridiques de protection de la vie privée, les informations personnelles entrées seront cryptées avec les technologies les plus sûres et elles ne seront pas transmises à des tiers qui pourraient alors identifier les individus. L’application ne pourra être utilisée comme un moyen de surveillance par les institutions publiques et les données sont dé-identifiées et encryptées pour éviter que des personnes autres que celles autorisées à le faire y aient accès. Les données seront gérées par un organisme à but non lucratif indépendant créé avec l’unique mission de soutenir les Canadiens et Canadiennes dans leur lutte contre la Covid-19, en préservant leurs santé, leur dignité et protègera vie privée. Les informations recueillies ne seront jamais utilisées à des fins commerciales et seront toutes effacées aussitôt que la pandémie sera terminée.
Certains s’inquiètent de l’opacité de l’application et doutent qu’elle fera uniquement ce qui est promis par ses concepteurs. La réponse à cette inquiétude est simple et nette : en accord avec les principes de transparence et de responsabilité, le code des algorithmes développés sera en accès libre. Il pourra être utilisé gratuitement par d’autres pays qui souhaitent protéger ses citoyens.
Dans la stratégie globale de lutte contre la propagation de la COVID-19, cette application est un outil qui renforce les capacités des individus et leur solidarité face aux conséquences sanitaires et sociales de la pandémie. Et ce n’est que par son adoption volontaire, par la mise en commun de nos connaissances et des données de santé pertinentes, que nous pourrons en tirer des bénéfices réels pour la population dans son ensemble.
Marc-Antoine Dilhac
Professeur de philosophie à l’Université de Montréal et instigateur de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle
Chaire en IA CIFAR-Canada
Yoshua Bengio
Professeur d’informatique à l’Université de Montréal et directeur scientifique de Mila - Institut québécois d’intelligence artificielle
Chaire en IA CIFAR-Canada
Irina Rish
Professeure au département d'informatique et de recherche opérationnelle de l’Université de Montréal
Chaire en IA CIFAR-Canada
Richard Janda
Professeur à la faculté de droit de l’Université McGill et Membre associé, École de l'environnement de McGill
Joumana Ghosn
Chercheuse en intelligence artificielle et directrice de recherche appliquée en apprentissage automatique à Mila
Stéphane Borreman
Médecin d’urgence et vice-président affaires médicales de Logibec
Valérie Pisano
Présidente et chef de la direction de Mila - Institut québécois d’intelligence artificielle
Benjamin Prud’homme
Directeur exécutif, IA pour l’humanité à Mila et cofondateur de Québec inclusif
