IA responsable

L'intelligence artificielle (IA) est une technologie transformatrice qui touche tous les aspects de la société et modifie fondamentalement la façon dont les humains vivent, travaillent et communiquent. Bien qu'elle offre des possibilités infinies, elle s'accompagne également de conséquences involontaires et de risques, qui doivent être pris en compte à tous les stades du développement et du déploiement des systèmes d'IA. 

Homme tenant ses deux filles dans un champ de fleurs à pétales rouges.

La recherche sur l'IA responsable explore les limites de la technologie tout en cherchant des solutions sociotechniques pour rendre les algorithmes d'apprentissage automatique plus dignes de confiance, plus sûrs et plus justes. Les chercheur·euse·s de Mila conçoivent des solutions visant à atténuer les préjugés et la discrimination, en s'attaquant au manque d'humilité épistémique des grands modèles de langage, qui peuvent affirmer des choses fausses en toute confiance.

En outre, les chercheur·euse·s de Mila continuent d'explorer les moyens d'aligner et de contrôler les systèmes d'IA, tout en améliorant la confidentialité des données tout au long du cycle de vie d'un système d'IA. Mila dirige également un certain nombre de projets appliqués par l'intermédiaire de son axe IA pour l’humanité. En tirant parti de la puissance des algorithmes d'apprentissage automatique, Mila contribue à relever des défis contemporains majeurs tels que la traite des êtres humains en ligne, l'esclavage moderne et les préjugés sexistes dans les textes.

Lumière sur Equal Lab

À Equal Lab (Mila/McGill University), une équipe d'expert⋅e⋅s pluridisciplinaire collabore au développement de solutions innovantes pour lutter contre les biais algorithmiques, afin de garantir des résultats d'IA justes et éthiques dans des domaines tels que les soins de santé et la finance.

En savoir plus

Photo de groupe des membres du Equal Lab.
Photo de Golnoosh Farnadi.

L'IA est un outil puissant qui touche à tous les pans de la société, et les principes de l'IA responsable visent à mettre en place les garanties nécessaires pour s'assurer que ce pouvoir est exploité pour le bien commun. 

Golnoosh Farnadi, professeure adjointe, McGill University, membre académique principale, Mila

Ressources

Angles morts de la gouvernance de l'IA
Cet ouvrage, publié conjointement par Mila et l'UNESCO, traite de la nécessité urgente d'une meilleure gouvernance de l'intelligence artificielle face à une évolution technologique sans précédent.
Déclaration de Montréal pour un développement responsable de l'intelligence artificielle
Co-créée par Mila et l'Université de Montréal, la Déclaration de Montréal est une œuvre collective qui vise à mettre le développement de l'IA au service du bien-être de tous.
AI & Cities: Risks, Applications and Governance
Ce livre blanc produit par Mila et ONU-Habitat vise à aider les gouvernements à utiliser l'IA de manière appropriée et responsable dans les villes.

Dans les médias

Intelligence artificielle - Fidèle à ses convictions (La Presse)
Il faut s’attaquer aux « angles morts » de l’IA, alertent des experts internationaux (Radio-Canada)

Laboratoires de recherche

Les professeur⋅e⋅s de Mila qui explorent le sujet dans le cadre de leurs recherches.

Corps professoral
Membre académique associé
Portrait de Samira Abbasgholizadeh-Rahimi
Professeure adjointe, McGill University, Département de génie électrique et informatique
Membre académique principal
Portrait de David Ifeoluwa Adelani
McGill University
Chaire en IA Canada-CIFAR
Membre académique associé
Portrait de Ulrich Aivodji
Professeur associé, École de technologie supérieure (ETS), Département de génie logiciel et des TI
Membre académique associé
Portrait de Ian Arawjo
Professeur adjoint, Université de Montréal, Département d'informatique et de recherche opérationnelle
Membre académique principal
Portrait de Tal Arbel
Professeure titulaire, McGill University, Département de génie électrique et informatique
Chaire en IA Canada-CIFAR
Membre académique principal
Portrait de Pierre-Luc Bacon
Professeur adjoint, Université de Montréal, Département d'informatique et de recherche opérationnelle
Chaire en IA Canada-CIFAR
Membre industriel principal
Portrait de Dzmitry Bahdanau
Chercheur scientifique IA, ServiceNow
Chaire en IA Canada-CIFAR
Membre académique principal
Portrait de Yoshua Bengio
Professeur titulaire, Université de Montréal, Département d'informatique et de recherche opérationnelle
Chaire en IA Canada-CIFAR
Membre académique principal
Portrait de Danilo Bzdok
Professeur agrégé, McGill University, Département de génie biomédicale
Chaire en IA Canada-CIFAR
Membre affilié
Portrait de Quentin Cappart
Professeur agrégé, Polytechnique Montréal, Département de génie informatique et génie logiciel
Membre académique associé
Portrait de Margarida Carvalho
Professeure adjointe, Université de Montréal, Département d'informatique et de recherche opérationnelle
Membre académique principal
Portrait de Jackie Cheung
Directeur scientifique adjoint, Mila, Professeur agrégé, McGill University, École d'informatique
Chaire en IA Canada-CIFAR
Membre académique associé
Portrait de Mark Coates
Professeur agrégé, McGill University, Département de génie électrique et informatique
Membre académique principal
Portrait de Aaron Courville
Professeur agrégé, Université de Montréal, Département d'informatique et de recherche opérationnelle
Chaire en IA Canada-CIFAR
Membre académique associé
Portrait de Érick Delage
Professeur titulaire, HEC Montréal, Département de sciences de la décision
Membre industriel principal
Portrait de Fernando Diaz n'est pas disponible
Chercheur scientifique, Google Pittsburgh
Membre académique associé
Portrait de Marc-Antoine Dilhac
Professeur agrégé, Université de Montréal, Département de philosophie
Chaire en IA Canada-CIFAR
Membre académique associé
Portrait de Guillaume Dumas
Professeur agrégé, Université de Montréal, Département de psychiatrie et d’addictologie
Membre industriel associé
Portrait de Gintare Karolina Dziugaite
Chercheuse scientifique senior, Google DeepMind
Membre affilié
Portrait de Samira Ebrahimi Kahou
Professeure adjointe, University of Calgary, Départment de génie électrique et logiciel
Chaire en IA Canada-CIFAR
Membre académique principal
Portrait de Golnoosh Farnadi
Professeure adjointe, McGill University, École d'informatique
Chaire en IA Canada-CIFAR
Membre académique associé
Portrait de Christian Gagné
Professeur titulaire, Université Laval, Département de génie électrique et informatique
Chaire en IA Canada-CIFAR
Membre académique associé
Portrait de Pascal Germain
Professeur adjoint, Université Laval, Département d'informatique et de génie logiciel
Chaire en IA Canada-CIFAR
Membre académique principal
Portrait de Gauthier Gidel
Professeur adjoint, Université de Montréal, Département d'informatique et de recherche opérationnelle
Chaire en IA Canada-CIFAR
Membre académique associé
Portrait de Jin Guo
Professeur adjoint, McGill University, École d'informatique
Membre académique associé
Portrait de Julie Hussin
Professeure adjointe, Université de Montréal
Membre affilié
Portrait de Khimya Khetarpal
Chercheuse scientifique, Google DeepMind
Membre académique associé
Portrait de Foutse Khomh
Professeur, Polytechnique Montréal, Département de génie informatique et génie logiciel
Chaire en IA Canada-CIFAR
Membre académique associé
Portrait de Eric Kolaczyk
Professeur, McGill University, Département de mathématiques et statistiques
Membre affilié
Portrait de Shin (Alexandre) Koseki
Professeur adjoint, Université de Montréal, École d'urbanisme et d'architecture de paysage
Membre académique principal
Portrait de Simon Lacoste-Julien
Directeur scientifique adjoint, Mila, Professeur agrégé, Université de Montréal, Département d'informatique et de recherche opérationnelle
Chaire en IA Canada-CIFAR
Membre académique principal
Portrait de Guillaume Lajoie
Professeur adjoint, Université de Montréal, Département de mathématiques et statistiques
Chaire en IA Canada-CIFAR
Membre académique associé
Portrait de Xue (Steve) Liu n'est pas disponible
Professeur titulaire, McGill University, École d'informatique
Membre affilié
Portrait de Tegan Maharaj
Professeure titulaire, University of Toronto
Membre académique principal
Portrait de Chengzhi Mao
Professeur adjoint, McGill University, Département de génie électrique et informatique
Membre académique principal
Portrait de AJung Moon
Professeure adjointe, McGill University, Département de génie électrique et informatique
Membre académique associé
Portrait de Eilif Benjamin Muller
Professeur adjoint, Université de Montréal, Département de neurosciences
Chaire en IA Canada-CIFAR
Membre académique principal
Portrait de Derek Nowrouzezahrai
Professeur agrégé, McGill University, Département de génie électrique et informatique
Chaire en IA Canada-CIFAR
Membre industriel associé
Portrait de Alexandra Olteanu
Chercheuse principale et co-fondatrice de l'équipe FATE, apprentissage profond et automatisé, Microsoft Research, Montréal
Membre académique principal
Portrait de Chris Pal
Professeur titulaire, Polytechnique Montréal, Département de génie informatique et de génie logiciel
Chaire en IA Canada-CIFAR
Membre académique associé
Portrait de Pablo Piantanida
Professeur titulaire, Université Paris-Saclay
Membre académique principal
Portrait de Joelle Pineau
Professeure agrégée, McGill University, École d'informatique
Chaire en IA Canada-CIFAR
Membre académique associé
Portrait de Dan Poenaru
Professeur, McGill University, Département de chirurgie pédiatrique
Membre académique principal
Portrait de Reihaneh Rabbany
Professeure adjointe, McGill University, École d'informatique
Chaire en IA Canada-CIFAR
Membre académique associé
Portrait de Mirco Ravanelli
Professeur adjoint, Concordia University, École de génie et d'informatique Gina-Cody
Membre académique principal
Portrait de Siva Reddy
Professeur adjoint, McGill University, École d'informatique et Département de linguistique
Chaire en IA Canada-CIFAR
Membre académique associé
Portrait de Catherine Régis
Professeure titulaire, Université de Montréal
Chaire en IA Canada-CIFAR
Membre académique principal
Portrait de Blake Richards
Professeur adjoint, McGill University, École d'informatique et Département de neurologie et de neurochirurgie
Chaire en IA Canada-CIFAR
Membre académique associé
Portrait de Ayla Rigouts Terryn Rigouts Terryn
Professeure adjointe, Université de Montréal, Linguistique et de traduction
Membre académique principal
Portrait de Irina Rish
Professeure titulaire, Université de Montréal, Département d'informatique et de recherche opérationnelle
Chaire en IA Canada-CIFAR
Membre académique principal
Portrait de David Rolnick
Professeur adjoint, McGill University, École d'informatique
Chaire en IA Canada-CIFAR
Membre industriel principal
Portrait de Adriana Romero Soriano n'est pas disponible
Chercheuse scientifique, Meta AI Research (FAIR)
Chaire en IA Canada-CIFAR
Membre industriel associé
Portrait de Negar Rostamzadeh
Chercheuse scientifique principale, Google Brain Ethical AI Team
Membre académique principal
Portrait de David Scott Krueger n'est pas disponible
Professeur adjoint, Université de Montréal, Département d'informatique et de recherche opérationnelle (DIRO)
Membre affilié
Portrait de Xujie Si
Professeur adjoint, University of Toronto, Département d'informatique
Chaire en IA Canada-CIFAR
Membre académique principal
Portrait de Dhanya Sridhar
Professeure adjointe, Université de Montréal, Département d'informatique et de recherche opérationnelle
Chaire en IA Canada-CIFAR
Membre industriel associé
Portrait de Kory Wallace Mathewson
Chercheur scientifique, DeepMind
Membre académique principal
Portrait de Guy Wolf
Professeur agrégé, Université de Montréal, Département de mathématiques et statistiques
Chaire en IA Canada-CIFAR
Membre académique associé
Portrait de Amal Zouaq
Professeure titulaire, Polytechnique Montréal, Département de génie informatique et génie logiciel

Publications

A Unifying Framework for Fairness-Aware Influence Maximization
Behrouz Babaki
Michel Gendreau
The problem of selecting a subset of nodes with greatest influence in a graph, commonly known as influence maximization, has been well studi… (voir plus)ed over the past decade. This problem has real world applications which can potentially affect lives of individuals. Algorithmic decision making in such domains raises concerns about their societal implications. One of these concerns, which surprisingly has only received limited attention so far, is algorithmic bias and fairness. We propose a flexible framework that extends and unifies the existing works in fairness-aware influence maximization. This framework is based on an integer programming formulation of the influence maximization problem. The fairness requirements are enforced by adding linear constraints or modifying the objective function. Contrary to the previous work which designs specific algorithms for each variant, we develop a formalism which is general enough for specifying different notions of fairness. A problem defined in this formalism can be then solved using efficient mixed integer programming solvers. The experimental evaluation indicates that our framework not only is general but also is competitive with existing algorithms.
Managing AI Risks in an Era of Rapid Progress
Geoffrey Hinton
Andrew Yao
Dawn Song
Pieter Abbeel
Trevor Darrell
Yuval Noah Harari
Ya-Qin Zhang
Lan Xue
Shai Shalev-Shwartz
Gillian K. Hadfield
Jeff Clune
Frank Hutter
Atilim Güneş Baydin
Sheila McIlraith
Qiqi Gao
Ashwin Acharya
Anca Dragan … (voir 5 de plus)
Philip Torr
Stuart Russell
Daniel Kahneman
Jan Brauner
Sören Mindermann