En tant qu'hôte du AI Safety Summit, le gouvernement du Royaume-Uni a chargé Yoshua Bengio, fondateur et directeur scientifique de Mila, professeur titulaire à l’Université de Montréal, titulaire d’une chaire en IA Canada-CIFAR et co-lauréat du prix Turing en 2018, de présider le rapport « State of the Science » sur les capacités et les risques des systèmes d'IA de pointe. Cette initiative s'inscrit dans le cadre de l'engagement pris par les pays représentés, inscrit dans la Déclaration de Bletchley du 1er novembre 2023, en faveur de la coopération internationale et de l'élaboration d'une compréhension commune, fondée sur des données scientifiques et factuelles, des risques liés aux systèmes d'IA de pointe. Les pays représentés à Bletchley Park ont également accepté de soutenir l'élaboration de ce rapport.
Le professeur Bengio sera soutenu par un groupe diversifié d'éminent·e·s universitaires spécialisé·e·s en IA, comprenant des personnes aux expertises variées, et conseillé par un groupe consultatif d'expert·e·s constitué de représentant·e·s des pays participant au sommet et de pays partenaires.
L'objectif du rapport est de faciliter une compréhension scientifique commune des risques associés aux systèmes d'IA de pointe et de maintenir cette compréhension alors que les capacités continuent de croître, à travers son champ d'application défini avec précision pour examiner les travaux de recherche les plus récents et les plus avancés sur les risques et les capacités des systèmes d'IA de pointe.
Plutôt que de produire de nouveaux documents, le rapport résumera au mieux la recherche existante et identifiera les domaines de recherche prioritaires, en fournissant une synthèse des connaissances actuelles sur les risques liés à l'IA de pointe. Il ne formulera pas de recommandations politiques ou réglementaires, mais contribuera plutôt à éclairer l'élaboration des politiques nationales et internationales.
Le rapport sera publié avant la prochaine édition du AI Safety Summit. En se concentrant sur l'IA de pointe, il vise également à informer et à compléter d'autres initiatives internationales, telles que celles menées par les Nations unies, l'Organisation de coopération et de développement économiques (OCDE) et le Partenariat mondial sur l'intelligence artificielle (PMIA). Son approche analytique, internationale, indépendante et inclusive, fondée sur la science, servira de base aux activités du Conseil consultatif des Nations unies sur l'intelligence artificielle.
En tant qu'hôte de cette édition du AI Safety Summit, le Royaume-Uni mettra en place le secrétariat qui soutiendra le professeur Yoshua Bengio et le groupe d'expert·e·s.
Citation
« Tout au long du AI Safety Summit, j'ai été encouragé de constater à quel point les différents gouvernements, entreprises et groupes de la société civile prennent au sérieux les questions relatives au développement rapide des systèmes d'IA de pointe. Il est essentiel que ces acteurs clés se réunissent pour réfléchir à la manière de mitiger les risques qu'ils représentent pour nos démocraties et nos sociétés », a déclaré Yoshua Bengio, professeur titulaire à l'Université de Montréal, fondateur et directeur scientifique de Mila - Institut québécois d'intelligence artificielle et titulaire d'une chaire en IA Canada-CIFAR. « Afin de commencer à collaborer à l'échelle internationale, il est essentiel d'établir la cartographie scientifique sur les risques et les capacités de ces systèmes, qui servira de base commune pour les prochaines étapes. Je suis honoré d'avoir été désigné par le gouvernement britannique pour diriger l'élaboration du rapport sur l'état de la science, un exercice très important pour atteindre cet objectif», a-t-il ajouté.
