Yoshua Bengio, fondateur de Mila, a coprésidé le premier rapport préliminaire du Panel scientifique international indépendant sur l'IA de l'ONU, publié le 1er juillet. Bengio a dirigé cet effort aux côtés de la journaliste et lauréate du prix Nobel de la paix Maria Ressa, cofondatrice de Rappler. Plusieurs membres de la communauté Mila ont également contribué à sa réalisation.
Cette présence de l’Institut à différents niveaux dans un exercice d’envergure mondial mandaté par l’ONU illustre concrètement l’engagement de Mila à mettre la rigueur scientifique au service du bien commun, et à faire en sorte que la recherche indépendante occupe une place déterminante dans la gouvernance mondiale de l’IA, à mesure qu’elle se construit.
Créé l'année précédente par résolution de l'Assemblée générale des Nations Unies, le Panel a pour mandat de faire progresser la compréhension scientifique de l'IA et de veiller à ce que les délibérations internationales s'appuient sur les meilleures données disponibles. Ce rapport préliminaire marque le début d'un travail continu, soit un mécanisme permanent qui permettra de produire, au fil du temps, des évaluations indépendantes et fondées sur des données scientifiques concernant les capacités, les opportunités et les risques liés à l'IA. Il a été élaboré par 40 expert·e·s provenant de 37 pays, agissant à titre personnel plutôt qu'au nom d'un gouvernement, d'une entreprise ou d'une institution.
Une mise en garde sur le rythme des garde-fous
L’une des principales conclusions du Panel est que les garde-fous actuels ne peuvent suivre le rythme de croissance des capacités de l'IA, et que les décideur·euse·s public·que·s ne peuvent gouverner ce qu'ils ne comprennent pas. Lors de la conférence de presse de lancement du rapport préliminaire à New York, le secrétaire général des Nations Unies, António Guterres, a déclaré aux journalistes que les données scientifiques sont maintenant disponibles et que les dirigeant·e·s ne peuvent plus prétendre le contraire, ajoutant que tout le monde devra désormais faire partie de la solution.
Bengio et Ressa ont également tenu à préciser ce que le rapport n'est pas. Il ne propose pas de recommandations politiques, un choix visant à préserver la capacité du Panel à demeurer strictement fondé sur des données factuelles plutôt que de risquer une politisation de son travail. Le rapport est aussi explicite quant à ses limites. Il n'aborde pas les applications militaires de l'IA ni les systèmes d'armes autonomes létales, et il souligne plusieurs domaines, notamment les effets macroéconomiques de l'IA et son empreinte environnementale, où les données probantes demeurent trop inégales pour appuyer des conclusions fermes. Les coprésident·e·s ont plutôt décrit le rapport comme une base commune, soit un ensemble de données factuelles que les gouvernements du monde entier, et non seulement la poignée de pays où l'IA est développée, peuvent utiliser pour prendre des décisions éclairées.
Prochaines étapes
Les conclusions du Panel seront présentées aux gouvernements et au public cette semaine, à l'occasion du premier Dialogue mondial de l'ONU sur la gouvernance de l'IA à Genève, qui se tient du 6 au 7 juillet, offrant aux délégations un point de départ scientifique commun pour leurs discussions. Le Panel continuera d'enrichir ses données probantes par des consultations et des échanges avec la communauté scientifique. Son prochain rapport annuel alimentera le deuxième Dialogue mondial, qui se tiendra à New York en mai 2027.
Lisez le rapport préliminaire complet sur le site Web du Panel scientifique international indépendant sur l'IA de l'ONU.
