Yoshua Bengio et Kate Crawford discutent du besoin urgent de réglementer l’IA

Suite au dévoilement d’un livre conjoint de Mila et de l’UNESCO appelant à une meilleure gouvernance de l’intelligence artificielle, le fondateur et directeur scientifique de Mila, Yoshua Bengio, s’est entretenu avec Kate Crawford, éminente chercheuse en IA, pour discuter de l’avenir de l’industrie face à des changements sans précédent.

Yoshua Bengio, professeur à l’Université de Montréal, et Kate Crawford, professeure de recherche à l’USC Annenberg, ont échangé sur l’essor d’outils publics d’IA générative comme ChatGPT, les questions liées à la propriété intellectuelle, la nécessité de réglementer l’industrie pour éviter la concentration du pouvoir, et des considérations philosophiques sur la façon dont les intérêts humains s’intègrent dans le développement de l’IA.

Concentration du pouvoir et questions de droits d’auteur

Les deux chercheurs ont établi un parallèle entre l’extraction de minerais et l’entraînement de systèmes d’IA avec des données publiques pour critiquer la concentration actuelle du pouvoir et les questions de propriété intellectuelle soulevées par les outils d’IA générative.

«Moins de six entreprises produisent de l’IA générative à grande échelle, c’est l’une des industries les plus concentrées au monde», a déclaré Kate Crawford.

«Des entreprises comme OpenAI récupèrent le travail créatif de décennies, de siècles de pratiques artistiques (images, mots, code) et l’attribuent ensuite à leurs propres systèmes dont les retombées ne profiteront qu’à très peu de personnes. Alors, comment penser à tout le travail qui a été fait pour produire toutes ces données? Pour l’instant, nous n’avons pas de système de rémunération. Les gens ne donnent pas de consentement, ils n’ont pas de crédit et ils n’ont pas de compensation», a-t-elle poursuivi.

«Nous ne pouvons pas permettre que les gens soient simplement utilisés comme matière première, que leur travail soit extrait et que les gains de l’IA générative ne soient jamais partagés de manière plus générale».

Yoshua Bengio a souligné que l’IA générative est plus délicate à réglementer que l’industrie musicale, par exemple, parce qu’elle utilise des données provenant de sources multiples.

«Toutes ces données que les humains produisent et qui alimentent ces grands systèmes d’IA contribuent réellement à une richesse collective et devraient être traitées comme telles», a-t-il déclaré.

«Comment s’assurer que la technologie est développée pour le bien et que la richesse créée revient à tout le monde?», a-t-il demandé, soulignant la nécessité d’un investissement public accru dans le développement de l’IA car les entreprises ne sont pas actuellement incitées à mettre au point des outils socialement bénéfiques par les mécanismes des marchés.

Coopération et ouverture

Les deux chercheurs ont discuté de la nécessité d’améliorer la coopération et la gouvernance internationales en établissant des parallèles entre l’IA et les accords sur les armes et l’énergie nucléaire, qui ont exigé de la transparence et l’ouverture à l’inspection.

«Nous l’avons fait dans le passé, mais nous n’avons rien de semblable à l’heure actuelle», a déclaré Kate Crawford.

«Ce que nous avons, c’est un très petit nombre d’entreprises privées motivées, dans de nombreux cas, par le profit des actionnaires ou le profit individuel, et qui ne partagent pas ce qu’elles font. Nous avons un système profondément opaque», a-t-elle déploré.

«Il est très difficile de gouverner et de réglementer quelque chose que l’on ne peut pas voir».

Les chercheurs ont partagé leurs préoccupations quant à l’ouverture de la recherche sur l’IA.

«Pendant une bonne décennie, l’industrie a développé l’IA d’une manière beaucoup plus ouverte sur le plan scientifique, mais je crains vraiment que nous ne perdions une bonne partie de cette évolution», a déclaré Yoshua Bengio.

Il a cité le CERN, un centre de recherche international consacré à l’énergie nucléaire, comme exemple de la manière dont l’ouverture et la coopération pourraient faire partie de l’avenir du développement de l’IA.

«Nous devons nous assurer que les progrès futurs n’appartiennent pas seulement à quelques entreprises, mais qu’ils s’inscrivent dans des directions qui profitent à la société, et cela se produira si les gouvernements créent quelque chose comme un CERN de l’IA», a-t-il déclaré.

«Si nous voulons développer une IA qui contribue à la lutte contre le changement climatique, à l’éducation et aux soins de santé, nous devons construire ces grands réseaux neuronaux qui nécessitent d’énormes capitaux, mais il est à espérer que ces capitaux nous appartiendront, qu’ils appartiendront à la société et qu’ils seront orientés vers ces avantages».

Changements réglementaires et démocratie

Les chercheurs s’accordent à dire que le rythme de développement de l’IA dépasse de loin la vitesse des changements réglementaires, et qu’il est temps de réglementer le développement de l’IA pour protéger la société et la démocratie de ses écueils potentiels.

«Aucun d’entre nous ne s’attendait à voir ce niveau de progrès aussi rapidement, et bien que passionnant pour ses avantages potentiels, c’est aussi un véritable défi pour les régulateurs qui n’agissent pas rapidement par essence: ils agissent lentement pour écouter leurs électeurs afin de débattre et de parvenir à un consensus sur la façon de réglementer», a déclaré Kate Crawford.

Les récentes avancées en matière de réglementation en Europe et au Canada sont encourageantes, mais il reste encore beaucoup à faire à l’échelle mondiale, selon les chercheurs.

«Nous devons investir beaucoup plus dans les sciences sociales et humaines pour nous aider à repenser nos sociétés au niveau de chaque pays, mais aussi au niveau mondial», a déclaré Yoshua Bengio.

«Le type de concurrence que nous observons actuellement entre les entreprises, le nivellement par le bas en termes de prudence et d’éthique, est une indication de la gravité des choses dans quelques années, lorsque ces outils pourraient faire beaucoup plus de dégâts.»

Les chercheurs ont conclu leur discussion par des réflexions sur la manière de stimuler davantage la conversation autour des opportunités et des risques liés au développement de l’IA.

«Nous devons réfléchir au type de monde dans lequel nous voulons vivre et à la manière dont nous le concevons, parce qu’à l’heure actuelle, ce n’est pas nous qui prenons les décisions concernant l’architecture du pouvoir», a déclaré Kate Crawford.

«Elles sont prises par un très petit nombre d’agents non élus qui créent des systèmes qui pourraient être très polyvalents et avoir des effets considérables, dont certains très néfastes.»

Yoshua Bengio a conclu sur un commentaire optimiste à propos de la démocratie.

«Tout tourne autour de la démocratie. De puissants outils conduisent à une concentration du pouvoir. C’est pourquoi nous devons changer notre système par de petits incréments, puis par de plus grands, afin de nous assurer que nous préservons cette belle chose qu’est la démocratie».

«C’est lorsque de nombreuses personnes pensent qu’un problème est important que les choses bougent. Nous avons donc tous la possibilité de participer à la construction d’un monde meilleur.»

Visionnez la conversation dans son intégralité (en anglais) ici.