Portrait de Ulrich Aivodji

Ulrich Aivodji

Membre académique associé
ulrich.Aivodji@mila.quebec
Professeur associé, École de technologie supérieure (ETS), Département de génie logiciel et des TI
Site Web
Google Scholar

Biographie

Ulrich Aivodji est professeur associé d'informatique au Département de génie logiciel et des technologies de l'information de l’École de technologie supérieure de Montréal (ÉTS).

Il dirige le Trustworthy Information Systems Lab (TISL). Ses domaines de recherche sont la sécurité informatique, la confidentialité des données, l'optimisation et l'apprentissage automatique. Ses travaux actuels portent sur plusieurs aspects de l'apprentissage automatique digne de confiance, tels que l'équité, l'apprentissage automatique préservant la vie privée et l'explicabilité.

Avant d'occuper son poste actuel, il était chercheur postdoctoral à l'Université du Québec à Montréal (UQAM), où il travaillait avec Sébastien Gambs sur l'éthique de l'apprentissage automatique et la protection de la vie privée. Il a obtenu un doctorat en informatique à l'Université Paul-Sabatier, sous la direction de Marie-José Huguet et Marc-Olivier Killijian. Pendant son doctorat, il a été affilié au Laboratoire de recherche spécialisé dans l’analyse et l’architecture des systèmes du Centre national de la recherche scientifique (LAAS-CNRS) en tant que membre des groupes de recherche Informatique fiable et tolérance aux fautes et Recherche opérationnelle, optimisation combinatoire et contraintes.

Étudiants actuels

maryam.babaie@gmail.com Babaei
Doctorat - École de technologie suprérieure
maryam.babaei@mila.quebec
Github
Meghana Bhange
Maîtrise recherche - École de technologie suprérieure
meghana.bhange@mila.quebec
Site web
Github
Google Scholar
Patrik Kenfack
Doctorat - École de technologie suprérieure
Co-superviseur⋅e :
Samira Ebrahimi Kahou
patrik.kenfack@mila.quebec
Github
Google Scholar

Publications

Fairness Under Demographic Scarce Regime
Patrik Joslin Kenfack
Samira Ebrahimi Kahou
Ulrich Aivodji
Most existing works on fairness assume the model has full access to demographic information. However, there exist scenarios where demographi… (voir plus)c information is partially available because a record was not maintained throughout data collection or due to privacy reasons. This setting is known as demographic scarce regime. Prior research have shown that training an attribute classifier to replace the missing sensitive attributes (proxy) can still improve fairness. However, the use of proxy-sensitive attributes worsens fairness-accuracy trade-offs compared to true sensitive attributes. To address this limitation, we propose a framework to build attribute classifiers that achieve better fairness-accuracy trade-offs. Our method introduces uncertainty awareness in the attribute classifier and enforces fairness on samples with demographic information inferred with the lowest uncertainty. We show empirically that enforcing fairness constraints on samples with uncertain sensitive attributes is detrimental to fairness and accuracy. Our experiments on two datasets showed that the proposed framework yields models with significantly better fairness-accuracy trade-offs compared to classic attribute classifiers. Surprisingly, our framework outperforms models trained with constraints on the true sensitive attributes.
2023-07-24
ArXiv (preprint)
doi.org
openreview.net