La chercheuse de Mila Golnoosh Farnadi, titulaire de la Chaire en IA CIFAR-Canada et professeure adjointe au Département des sciences de la décision de HEC Montréal, figure parmi les boursiers de recherche de Google AI pour son projet intitulé « Addressing Algorithmic Fairness in Decision-focused Deep Learning ».
Lancé en mars 2020, la bourse de recherche vise à soutenir les professeurs chercheurs en début de carrière issus d'universités à travers le monde qui effectuent des travaux ayant un impact positif dans le domaine de l'IA.
Mme Farnadi a consacré une grande partie de sa carrière universitaire à la mise au point de nouveaux modèles d'apprentissage automatique et d'IA pour aborder les questions d'équité et d'éthique dans l'intelligence artificielle. Ses travaux récents portent principalement sur le traitement des biais et de la discrimination algorithmique dans les modèles de prise de décision.
L’importance de lutter contre la discrimination et les biais algorithmiques
L'IA et l'apprentissage automatique sont désormais des composantes essentielles de divers outils automatisés qui sous-tendent la société moderne. Les méthodes d'apprentissage profond ont récemment été déployées à grande échelle dans des processus de prise de décision qui touchent le quotidien des individus, allant des peines imposées par les tribunaux aux diagnostics médicaux et même aux prêts personnels par les institutions financières. Pourtant, ces modèles sont connus pour discriminer et marginaliser de manière disproportionnée certains groupes démographiques. C’est la raison pour laquelle la docteur Farnadi souhaite remédier à ces lacunes. Elle vise en fait à développer des outils mathématiques et des algorithmes d'apprentissage profond qui tiennent compte de l'équité dans la prise de décision automatisée.
« Ce projet de recherche est ambitieux. S'il est concluant, il fera une différence dans tous les domaines où les modèles d'apprentissage profond interviennent dans la prise de décision, que ce soit l'éducation, l’habitation, l'application de la loi, les soins de santé, le secteur bancaire, ainsi que de nouveaux domaines d'application qui restent à découvrir », a fait valoir Mme Farnadi.
Avec le soutien du Programme de bourses de recherche Google AI, son objectif est de concevoir des algorithmes d'apprentissage profond qui offrent des garanties d'équité, de proposer de nouveaux algorithmes qui veillent à ce que l'équité soit assurée dans les modèles d'apprentissage profond axés sur la prise de décision, et de démontrer l'applicabilité du cadre à divers domaines.
Bien que son projet de recherche offre un potentiel énorme dans le cadre de l’équité et de l’éthique en IA, elle reconnaît le long chemin qu’il lui reste à parcourir. « Cette tâche demandera beaucoup de temps et nécessitera un effort de collaboration important entre les chercheurs en apprentissage automatique et les décideurs politiques. En plus de minimiser la discrimination dans les systèmes automatisés grâce à des algorithmes mieux conçus, nous avons le pouvoir de remédier aux biais de longue date dans les systèmes de justice pénale et bien d'autres sphères de notre société pour offrir un meilleur avenir à tous ».
