Yoshua Bengio se joint aux centaines de signataires d’une lettre ouverte plaidant pour des systèmes d’IA plus sûrs

Des centaines de sommités des domaines de l’intelligence artificielle (IA) et de la technologie, dont Yoshua Bengio, fondateur et directeur scientifique de Mila – Institut québécois d’intelligence artificielle, ont cosigné le 29 mars 2023 une lettre ouverte initiée par le Future of Life Institute pour demander aux laboratoires d’IA de cesser immédiatement l’entraînement de systèmes d’IA plus puissants que GPT-4 pour une durée d’au moins six mois.

La lettre ouverte, intitulée « Pause Giant AI Experiments », affirme que les systèmes d’IA dotés d’une intelligence capable de rivaliser avec l’intelligence humaine peuvent constituer une menace sérieuse pour la société et l’humanité, et que « ces derniers mois, les laboratoires d’IA se sont lancés dans une course incontrôlée pour développer et déployer des cerveaux numériques toujours plus puissants que personne, pas même leurs créatrices et créateurs,  ne peut comprendre, prédire ou contrôler de manière fiable ». 

Toutefois, la lettre ne dit pas que tout développement de l’IA est dangereux ou devrait être interrompu. Elle appelle plutôt à « simplement prendre du recul par rapport à la course dangereuse vers des modèles ‘boîtes noires’ imprévisibles de plus en plus grands et dotés de capacités émergentes ».

La pause de six mois devrait donc être mise à profit pour élaborer et mettre en œuvre un ensemble de protocoles visant à rendre ces puissants systèmes d’IA plus précis, plus transparents et plus dignes de confiance.

À la suite de la publication de la lettre, Yoshua Bengio et des membres du Future of Life Institute ont tenu une conférence de presse virtuelle pour souligner leur engagement en faveur du développement de systèmes d’IA au bénéfice de tous. 

Malgré le potentiel positif des systèmes d’IA dans des domaines tels que la santé ou l’environnement, « je crains que ces outils puissants puissent également avoir des utilisations négatives, et la société n’est pas prête à y faire face », a déclaré Yoshua Bengio lors de la conférence de presse.

« Ralentissons. Veillons à développer de meilleurs garde-fous, veillons à discuter de ces questions au niveau international, comme nous l’avons fait pour l’énergie et les armes nucléaires. Veillons à mieux comprendre ces très grands systèmes, à améliorer leur robustesse et le processus par lequel nous pouvons les auditer et vérifier qu’ils sont sûrs pour le public », a-t-il ajouté. 

Il a également précisé que « six mois ne suffiront pas à la société pour trouver toutes les solutions permettant de faire face à ces risques, mais il faut bien commencer quelque part. Nous devons lever le drapeau, nous devons faire une pause, nous devons réfléchir, nous devons travailler sur des solutions et sur la gouvernance ». 

« Ce n’est qu’un début. Nous aurons besoin de propositions plus ambitieuses et plus réfléchies au fur et à mesure que nous avancerons ».

L’intégralité de la lettre ouverte est disponible ici.

La conférence de presse intégrale est disponible ici.