18 Oct 2019

La professeure Reihaneh Rabbany et son équipe utilisent l’IA pour détecter les trolls en ligne dans les élections canadiennes

À l’approche de l’élection fédérale canadienne, les Canadiens et les Canadiennes se demandent peut-être si les médias sociaux pourraient influer sur le résultat du scrutin comme ils l’ont fait lors des élections américaines de 2016.

Reihaneh Rabbany, titulaire d’une chaire en IA Canada-CIFAR, et son équipe de l’école d’informatique de l’Université McGill utilisent des techniques d’exploration de données et d’intégration de graphiques pour détecter les anomalies et les comportements suspects en ligne sur les réseaux sociaux pendant la campagne électorale canadienne.

Des anomalies sont détectées lorsque les utilisateurs semblent posséder plusieurs comptes et identités de médias sociaux, et utilisent ces comptes pour publier, partager et faire suivre du contenu semblable. Des anomalies apparaissent également lorsque les activités et les utilisateurs sont connectés, bien qu’ils semblent provenir d’individus ou de réseaux distincts — une propriété que l’on associe aussi aux trolls. Des études (en anglais) ont montré une corrélation (pas nécessairement une cause) entre les résultats des sondages et l’activité en ligne des trolls lors des élections américaines en 2016.

Les recherches de Reihaneh Rabbany déterminent comment différents comptes de médias sociaux sont reliés et peuvent donner une fausse crédibilité à des comptes qui ne sont pas gérés par de véritables utilisateurs. On pense que c’est dommageable parce que cela renforce et amplifie les fausses informations tout en donnant l’impression d’adopter des points de vue polarisants et potentiellement radicaux.

« Nous voulons comprendre comment différents comptes de médias sociaux sont liés les uns aux autres, quelles sont les similitudes dans leurs micromessages et leur contenu, et quel est leur lien avec d’autres comptes », explique-t-elle.

L’équipe de Reihaneh Rabbany applique différentes méthodes d’intégration de graphiques, y compris l’intégration profonde de graphiques de pointe, qui transforme les données de graphiques en formats plus accessibles, dans le but de caractériser le comportement normal des utilisateurs et de repérer ceux qui ne respectent pas le mode général des échanges en ligne des utilisateurs ordinaires.

image
Carte de Twitter sur les élections fédérales canadiennes de 2019 qui offre une vue d’ensemble sur la façon dont les groupes d’utilisateurs pollueurs détectés participent au discours général.

Son équipe a dressé une liste de mots-clics ou d’énoncés couramment utilisés dans les discussions en ligne sur l’élection canadienne en puisant dans les données d’environ 400 000 utilisateurs, dont leurs micromessages et leur réseau d’abonnés.

Bien que ses résultats jusqu’à présent soient préliminaires, cette recherche a permis de cerner des groupes suspects qui sont actifs en politique locale dans plusieurs provinces canadiennes, ainsi que plusieurs groupes d’extrême droite des États-Unis qui s’engagent vigoureusement dans la sphère politique canadienne.

Reihaneh Rabbany applique également une approche semblable pour suivre et détecter des activités en ligne suspectes liées à la traite des personnes et surveiller les marchés des escortes en ligne.

Membre de Mila, elle a été nommée titulaire d’une chaire en IA Canada-CIFAR en décembre 2018 sous l’égide de la Stratégie pancanadienne en matière d’IA du CIFAR, la première stratégie nationale au monde dans ce domaine.

« Nous voulons comprendre comment différents comptes de médias sociaux sont liés les uns aux autres, quelles sont les similitudes dans leurs micromessages et leur contenu, et quel est leur lien avec d’autres comptes »

Le programme des Chaires en IA Canada-CIFAR a pour objectif de recruter et de maintenir en poste au Canada certains des plus grands chercheurs en IA du monde, et de leur offrir un financement à long terme pour soutenir leurs recherches et former la prochaine génération de chercheurs en IA.

Reihaneh Rabbany, qui a quitté l’Iran pour s’établir au Canada, est l’une des 46 titulaires d’une chaire en IA Canada-CIFAR nommés à ce jour. En tant que jeune mère et chercheuse émergente dans son domaine, elle dit qu’il n’y avait aucun doute quant à l’endroit où elle irait vivre et faire de la recherche.

« Le Canada est davantage ouvert aux nouvelles idées que les autres pays. C’est un endroit où il fait bon travailler comme chercheuse », dit-elle.

L’un des avantages du programme des Chaires en IA Canada-CIFAR est qu’il permet à des chercheuses de talent comme Reihaneh Rabbany de se lancer dans des projets à haut risque. « L’une de mes principales motivations consiste à exploiter mes recherches sur l’IA pour produire des retombées sociétales positives. Un grand nombre de nos interactions comme société se déroulent en ligne. Mon but est de développer des techniques d’exploration de données afin de mieux comprendre ces dynamiques complexes. »


Le CIFAR est une organisation caritative mondiale basée au Canada qui rassemble de brillants cerveaux pour trouver réponse aux plus grandes questions de la science et de l’humanité.

Cet article a été publié sur le site de CIFAR. Abonnez-vous à la publication électronique bimestrielle pour rester au fait des plus récentes nouvelles en IA au Canada.