Alors que l'intelligence artificielle (IA) est adoptée dans le monde entier, ses avantages et ses risques pour l'inclusion et la diversité deviennent de plus en plus clairs : l'IA a la possibilité de combler les fossés sociaux, mais aussi de les creuser. Les biais des systèmes d'IA peuvent perpétuer la discrimination et l'inégalité, en particulier pour les femmes et les groupes marginalisés. Nous devons développer l'IA de manière responsable pour garantir un avenir équitable et inclusif. Il est essentiel d'établir des cadres pour garantir que les systèmes d'IA sont développés et utilisés de manière à promouvoir l'équité, la diversité, l'inclusion et la justice pour tous.tes.
Le 26 novembre 2024, Mila et CEIMIA ont publié le rapport le plus complet à ce jour sur l’égalité des genres et la diversité en IA. Née d’une initiative du groupe de travail sur l’IA responsable du Partenariat mondial sur l’intelligence artificielle, le rapport et le guide politique ont été présentés dans le cadre d’un événement à Mila qui a réuni des dirigeants mondiaux, des décideurs politiques et des représentants de la communauté de l’IA.
Le rapport, intitulé « Vers une réelle égalité en intelligence artificielle : Une politique d'IA transformatrice pour l'égalité des genres et la diversité », explore les meilleures pratiques, offre des perspectives politiques et fournit des recommandations pour améliorer l’égalité et la diversité des genres dans l’IA et l’élaboration de lignes directrices. S’appuyant sur des consultations approfondies avec plus de 200 participants, représentant plus de 50 pays et issus de divers milieux, ce rapport et le guide d’accompagnement offrent aux décideurs politiques des recommandations claires pour favoriser une plus grande inclusivité dans le développement technologique.
Parallèlement au rapport, Mila et le CEIMIA ont également publié un guide d’accompagnement qui propose une méthode détaillée pour mettre en œuvre les recommandations pour faciliter cette transition indispensable vers des écosystèmes d’IA plus inclusifs
« La mise en place d’un encadrement réglementaire rigoureux est nécessaire et urgente pour prévenir les méfaits et œuvrer en faveur de l’équité et de la diversité dans les écosystèmes d’IA qui, en fin de compte, ont une incidence directe sur les humains », ajoute Benjamin Prud’homme, vice-président responsable des politiques publiques, de la sécurité et des affaires mondiales de Mila et coresponsable du rapport. « Grâce à des politiques d’IA inclusives, nous pouvons améliorer la qualité, la facilité d’utilisation et l’efficacité des systèmes d’IA, pour un avenir plus équitable, durable et prospère pour tous et toutes. »
Les principales recommandations du rapport sont classées en quatre catégories :
- Encourager la conception inclusive et l’innovation démocratique : intégrer l’action positive et les mesures d’inclusion institutionnelle, et soutenir la conception de technologies inclusives.
- Renforcer la participation significative à la gouvernance de l’IA : favoriser la participation active des groupes marginalisés à la gouvernance de l’IA afin d’assurer un meilleur encadrement de l’IA pour tous et toutes.
- Veiller à la transparence et à la responsabilisation en matière de prévention des effets néfastes : établir des garanties et des mécanismes de responsabilité entre tous les acteurs de l’IA afin de prévenir les dommages et de garantir l’équité.
- Assurer un accès adéquat au système de justice : mettre en œuvre des mesures visant à garantir que les groupes marginalisés aient accès à un recours juridique contre les discriminations et les préjugés liés à l’IA.
Consultez le rapport et le guide pour en savoir plus sur cette initiative.
