Yoshua Bengio et Yuval Noah Harari échangent sur l’IA, la démocratie et l’avenir de la civilisation

Yoshua Bengio, fondateur et directeur scientifique de Mila, a discuté d’intelligence artificielle (IA), des défis auxquels la civilisation moderne fait face et de la meilleure façon de préserver la démocratie avec l’historien et auteur mondialement reconnu Yuval Noah Harari à C2 Montréal le 24 mai 2023.

Yoshua Bengio s’est entretenu pour la première fois avec l’auteur de Sapiens : Une brève histoire de l’humanité, Homo Deus : Une brève histoire du futur, et 21 leçons pour le 21e siècle lors d’une conversation animée par l’éminente journaliste canadienne Vassy Kapelos.

« Je ne suis pas un imposteur (deep fake) ni une IA », a plaisanté Yuval Noah Harari en se joignant virtuellement à la discussion qui s’est tenue à l’hôtel Fairmont Le Reine Elizabeth à Montréal.

Yuval Noah Harari et Yoshua Bengio craignent tous deux que le développement de l’IA ne menace la démocratie et l’humanité et ont récemment signé une lettre ouverte demandant une pause dans le développement de modèles d’IA géants plus puissants que GPT-4.

« J’ai trouvé que c’était une très bonne façon d’attirer l’attention du grand public et des gouvernements sur le problème. Même les membres d’entreprises discutent à huis clos depuis la lettre, cela a donc fonctionné, en ce sens », a déclaré Yoshua Bengio devant une salle remplie à l’occasion du rendez-vous d’affaires annuel.

Risque existentiel

Selon le professeur Bengio, les humains restent globalement plus intelligents que les systèmes d’IA actuels, mais les futurs outils risquent de devenir rapidement incontrôlables. Il a appelé à la prudence et à donner à la société suffisamment de temps pour s’adapter et mettre en place des garde-fous adéquats.

« Le problème, c’est qu’il y a beaucoup d’incertitudes quant à l’échelle temporelle, », a-t-il déclaré.

« Cela pourrait prendre quelques années ou des décennies pour construire des machines aussi intelligentes que nous. Mais en raison de cette incertitude, nous avons la responsabilité de nous préparer au pire des scénarios », a-t-il ajouté, soulignant que la société devrait se préparer à la transition le plus tôt possible, particulièrement en ce qui a trait au marché de l’emploi.

Yuval Noah Harari a abondé dans ce sens tout en rappelant que l’évolution technologique est beaucoup plus rapide que l’évolution biologique et que les sociétés humaines changent lentement.

« Nous devons concentrer l’attention de la société sur ces problèmes. Bon nombre de nos problèmes actuels peuvent s’aggraver considérablement à cause de l’IA », selon lui. 

Il a réaffirmé l’idée selon laquelle la société doit aborder prudemment le développement futur de l’IA.

« C’est un risque existentiel pour l’humanité, et ce dont nous avons le plus besoin, c’est de temps », a-t-il déclaré.

« Il s’agit de la première technologie de l’histoire capable de prendre des décisions et de créer des idées par elle-même… Elle est fondamentalement différente de tout ce que nous avons vu jusqu’à présent, car elle peut nous confisquer notre pouvoir ».

« Il nous a fallu de nombreuses générations pour comprendre comment bâtir des sociétés industrielles relativement correctes. Mais pour y arriver, nous avons vécu des expériences terribles et ratées (le nazisme et le communisme soviétique) qui ont tué des millions de personnes. »

« Il est certainement possible de construire de bonnes sociétés avec l’IA, mais cela prendra du temps et nous devons nous assurer que nous ne ferons plus de telles expériences ratées… Nous n’aurons pas de deuxième chance, nous n’y survivrons pas », a-t-il déclaré.

IA et réseaux sociaux

Yoshua Bengio et Yuval Noah Harari ont convenu que les politiciens devraient se concentrer davantage sur la réglementation de l’IA et ont souligné l’importance de préserver la démocratie, qui pourrait être mise en péril par des acteurs malveillants armés d’outils d’IA puissants.

« Les politiciens veulent pour la plupart parler de choses positives… mais nous devons faire face aux dangers, et le plus tôt sera le mieux », a-t-il déclaré.

« Il faudra du temps pour que les politiciens acceptent qu’ils ont la responsabilité non seulement de penser aux avantages de l’IA mais aussi qu’ils ont le devoir de protéger le public contre les conséquences à court et à long terme. »

Parmi les conséquences à court terme, il a mentionné que les outils d’IA pourraient être utilisés pour manipuler les citoyens afin de miner la démocratie.

« Les outils dérivés de grands modèles de langage (tels que ChatGPT) pourraient être utilisés pour la propagande, la désinformation et les acteurs malveillants (trolls) personnalisés qui pourraient vous convaincre de voter d’une certaine manière », a-t-il averti.

Yuval Noah Harari a estimé que les bots sophistiqués qui apprennent et adaptent leur comportement aux utilisateurs pour les manipuler constituent une menace pour la démocratie et qu’il incombe aux gouvernements de réglementer l’IA.

« Nous sommes aujourd’hui confrontés à un paradoxe : nous disposons de la technologie de l’information la plus sophistiquée et la plus puissante de l’histoire et pourtant, les gens ne sont plus capables de se parler, de se mettre d’accord sur le vainqueur des dernières élections ou sur la question de savoir si les vaccins sont bons ou mauvais pour la santé », a-t-il déclaré.

Il a suggéré des règles pour empêcher la contrefaçon d’êtres humains (semblables aux lois pour empêcher la contrefaçon d’argent) et pour se débarrasser des bots sur les réseaux sociaux en exigeant que l’on s’inscrive dans un bâtiment physique, en signant une feuille de papier.

«Les bots n’ont pas de liberté d’expression ou de droits, les humains en ont », a-t-il déclaré, provoquant un tonnerre d’applaudissements dans la salle.

Il a également insisté sur la nécessité de maintenir un bon dialogue social afin de préserver la démocratie.

« Si vous parlez avec quelqu’un, vous devez savoir s’il s’agit d’un humain ou d’une IA. Si nous ne le faisons pas, la conversation publique s’effondre et la démocratie ne peut pas survivre. »

Sauvegarder la démocratie

Yoshua Bengio et Yuval Noah Harari s’inquiètent tous deux des menaces planant sur la démocratie et estiment que les problèmes actuels pourraient être amplifiés par un développement incontrôlé de l’IA.

« La démagogie existe depuis des milliers d’années, tout comme la démocratie, mais elle pourrait être amplifiée par les médias sociaux et pourrait l’être encore plus avec l’IA », selon Yoshua Bengio.

« J’aimerais que nous réfléchissions à nos options : y a-t-il des moyens d’organiser la société de manière sûre, au sens d’une IA sûre, et pouvons-nous préserver nos valeurs humaines, nos droits, notre dignité et notre démocratie ? C’est une question difficile, mais cela vaut la peine d’y consacrer le temps de nos meilleurs cerveaux », a-t-il déclaré par la suite.

Harari a également affirmé que nous avons besoin de la démocratie pour réguler correctement l’IA.

« Le seul moyen réaliste de sauver l’humanité est avant tout de sauver la démocratie », a-t-il déclaré, tout en expliquant que les régimes autoritaires seraient pires pour réguler l’IA car ils croient fondamentalement en leur propre infaillibilité, à l’instar des systèmes d’IA actuels.

« L’IA n’est pas infaillible. Elle peut traiter beaucoup d’informations, mais l’information n’est pas la vérité », a-t-il déclaré.

« Seules les démocraties disposent des pouvoirs et contre pouvoirs nécessaires pour identifier les erreurs et les corriger ».

Le chemin de l’avenir

Yoshua Bengio a établi un parallèle entre le développement de l’IA et la lutte contre les changements climatiques afin de donner des conseils pour un meilleur avenir.

« Les gens se battent depuis des décennies pour que nous changions nos façons de faire afin de lutter contre les changements climatiques. La cause peut sembler désespérée, mais les gens continuent de se battre, d’essayer, et c’est ce que nous devons faire avec les défis de l’IA. »

« Cela en vaut la peine car nous pourrions apporter la santé à tous, l’éducation, résoudre les changements climatiques. Nous pourrions même être en mesure de réformer complètement la société d’une manière qui pourrait être meilleure que le type de société que nous avons actuellement, en termes de démocratie et de bien-être collectif. »

Bien que ni lui ni Yuval Noah Harari ne soient allés jusqu’à se dire optimistes pour l’avenir, ils ont convenu que tous les efforts devraient désormais être concentrés sur la lutte pour le changement.

« Nous avons créé le problème, nous avons encore le pouvoir de le résoudre », a déclaré M. Harari. 

« En fin de compte, le problème, c’est nous, pas l’IA », a-t-il ajouté, soulignant que la plupart des problèmes actuels peuvent être attribués à des humains utilisant l’IA de manière malveillante.

« Si nous consacrions autant de temps au développement et à la compréhension de notre propre esprit qu’au développement de l’IA, nous serions sauvés. »

Selon Yoshua Bengio, le seul moyen de converger vers un système qui préserve nos valeurs est de changer l’humanité en sensibilisant et en éduquant davantage le public.

« Nous avons le devoir moral d’opter pour la solution optimiste et d’essayer de la mettre en œuvre. »

Visionnez la conversation complète (en anglais)