Portrait de Ulrich Aivodji

Ulrich Aivodji

Membre académique associé
Professeur associé, École de technologie supérieure (ETS), Département de génie logiciel et des TI
École de technologie supérieure
Sujets de recherche
Apprentissage de représentations
Apprentissage profond
Exploration des données
Optimisation
Site web
Google Scholar

Biographie

Ulrich Aivodji est professeur associé d'informatique au Département de génie logiciel et des technologies de l'information de l’École de technologie supérieure de Montréal (ÉTS).

Il dirige le Trustworthy Information Systems Lab (TISL). Ses domaines de recherche sont la sécurité informatique, la confidentialité des données, l'optimisation et l'apprentissage automatique. Ses travaux actuels portent sur plusieurs aspects de l'apprentissage automatique digne de confiance, tels que l'équité, l'apprentissage automatique préservant la vie privée et l'explicabilité.

Avant d'occuper son poste actuel, il était chercheur postdoctoral à l'Université du Québec à Montréal (UQAM), où il travaillait avec Sébastien Gambs sur l'éthique de l'apprentissage automatique et la protection de la vie privée. Il a obtenu un doctorat en informatique à l'Université Paul-Sabatier, sous la direction de Marie-José Huguet et Marc-Olivier Killijian. Pendant son doctorat, il a été affilié au Laboratoire de recherche spécialisé dans l’analyse et l’architecture des systèmes du Centre national de la recherche scientifique (LAAS-CNRS) en tant que membre des groupes de recherche Informatique fiable et tolérance aux fautes et Recherche opérationnelle, optimisation combinatoire et contraintes.

Étudiants actuels

Maryam Babaei
Doctorat - École de technologie suprérieure
Github
Eliott Baltz
Maîtrise recherche - École de technologie suprérieure
Github
Zahra Batool
Postdoctorat - École de technologie suprérieure
Github
Chayma Ben Abdeljelil
Maîtrise recherche - École de technologie suprérieure
Github
Meghana Bhange
Doctorat - École de technologie suprérieure
Co-superviseur⋅e :
Samira Ebrahimi Kahou
Site web
Github
Google Scholar
Ayana Hussain
Collaborateur·rice de recherche - Simon Fraser University
Github
Google Scholar
Patrik Kenfack
Doctorat - École de technologie suprérieure
Co-superviseur⋅e :
Samira Ebrahimi Kahou
Site web
Github
Google Scholar
Killijian Marc-Olivier
Visiteur de recherche indépendant - UQAM
Louis Tremblay Thibault
Doctorat - École de technologie suprérieure
Site web
Yingke Wang
Collaborateur·rice de recherche - University of Waterloo
Github

Publications

Fairwashing: the risk of rationalization
Ulrich Aivodji
Hiromi Arai
Olivier Fortineau
Sébastien Gambs
Satoshi Hara
Alain Tapp
Black-box explanation is the problem of explaining how a machine learning model -- whose internal logic is hidden to the auditor and general… (voir plus)ly complex -- produces its outcomes. Current approaches for solving this problem include model explanation, outcome explanation as well as model inspection. While these techniques can be beneficial by providing interpretability, they can be used in a negative manner to perform fairwashing, which we define as promoting the false perception that a machine learning model respects some ethical values. In particular, we demonstrate that it is possible to systematically rationalize decisions taken by an unfair black-box model using the model explanation as well as the outcome explanation approaches with a given fairness metric. Our solution, LaundryML, is based on a regularized rule list enumeration algorithm whose objective is to search for fair rule lists approximating an unfair black-box model. We empirically evaluate our rationalization technique on black-box models trained on real-world datasets and show that one can obtain rule lists with high fidelity to the black-box model while being considerably less unfair at the same time.
2019-05-23
Proceedings of the 36th International Conference on Machine Learning (publié)
doi.org
proceedings.mlr.press