Portrait de Ignacio Cofone

Ignacio Cofone

Membre affilié
Professeur, University of Oxford
Sujets de recherche
Alignement de l'IA
Droit
Équité algorithmique
Éthique de l'IA
IA centrée sur l'humain
IA digne de confiance
IA pour l'humanité
Questions juridiques liées à l'IA
Vie privée
Site web
Google Scholar
LinkedIn

Biographie

Ignacio Cofone est professeur de droit et de réglementation de l'IA à l'Université d'Oxford, nommé conjointement à l'Institute for Ethics in AI et à la Faculté de droit. Il est également chercheur associé (Affiliated Fellow) à l'Information Society Project de l'Université Yale.

Les travaux de recherche d'Ignacio examinent la manière dont l'IA transforme les concepts juridiques clés tels que l'équité, la vie privée et la responsabilité, ainsi que la façon dont le droit devrait encadrer les risques et les préjudices découlant de l'inférence et de la prédiction de l'IA. Il rédige actuellement l'ouvrage Plausible (Cambridge University Press), consacré à la gouvernance de la dépendance aux systèmes d'IA.

Son livre précédent, The Privacy Fallacy (Cambridge University Press, 2023), soutient que les préjudices liés à l'IA exigent que le droit de la vie privée et de la protection des données s'appuie sur des devoirs de non-exploitation, le contrôle individuel sur les données étant devenu inefficace. Avant de rejoindre Oxford, il a titulaire de la Chaire de recherche du Canada en droit de l'IA et gouvernance des données à l'Université McGill.

Publications

The Overstated Cost of AI Fairness in Criminal Justice
Ignacio Cofone
Warut Khern-am-nuai
A dominant critique of algorithmic fairness holds that increasing fairness reduces predictive accuracy, imposing a cost on society. We chall… (voir plus)enge that assumption by empirically analyzing the COMPAS dataset. We make two contributions. First, using causal inference methods, we show that racial bias is not only present in the COMPAS dataset but is also amplified by the models trained on it. Widely used models do more than replicate existing bias; they exacerbate it. This undercuts both the assumption that algorithmic decision-making offers a neutral improvement over human judgment and the weaker claim that it merely mirrors preexisting human bias. Second, we reframe the fairness-accuracy tradeoff. Applying fairness constraints does not necessarily cost predictive accuracy in criminal justice. Prediction systems operationalize concepts such as risk through implicit and often flawed normative choices about what to predict and how. The tradeoff claim assumes that the unconstrained model's prediction is an optimal baseline. Fairness constraints can instead correct distortions introduced by biased outcome variables: rearrest data, in this case, captures and magnifies systemic racial disparities. Under some interventions, therefore, fairness carries none of the cost presumed in policy debates. These dynamics extend beyond criminal justice to lending, hiring, and housing, where biased outcome variables reinforce inequality independently of proxy selection. We draw out what this implies for how law and policy should approach fairness adjustments in criminal law.
2026-07-31
ArXiv (prépublication)
doi.org
arxiv.org