Cours et horaires

Séminaire de cycles supérieurs sur des sujets avancés liés au contrôle des LLM.

Graduate seminar in theoretical guarantees for post-deployment auditing.

Cours destiné aux étudiants de fin de baccalauréat et de deuxième/troisième cycles. Les systèmes intelligents autonomes (SIA), tels que l’intelligence artificielle (IA) et la robotique, suscitent aujourd’hui un engouement et des investissements sans précédent. Cependant, l’accélération du développement et du déploiement de ces systèmes s’accompagne d’une multitude de défis sociaux, éthiques et juridiques à l’échelle mondiale. Ainsi, les notions issues de ces jeunes disciplines que sont l’éthique de la robotique et l’éthique de l’IA permettent non seulement de compléter judicieusement la formation technique des étudiants en génie, mais elles captivent également un nombre croissant d’étudiants s’intéressant aux SIA, notamment ceux inscrits à une mineure en IA.

Dans le cadre de ce cours, les étudiants s’approprieront des concepts fondamentaux tels que les valeurs humaines et la morale, puis s'en serviront pour analyser les enjeux éthiques propres aux SIA à travers l’étude de cas réels. À l’issue du cours, ils seront en mesure de formuler les problèmes éthiques liés aux SIA, de déterminer l’ensemble des parties prenantes concernées et de connaître les diverses approches techniques et de conception permettant de prendre en compte les valeurs humaines lors de l’élaboration d’un SIA.

Ce colloque s’adresse aux étudiants qui aspirent à devenir la prochaine génération de spécialistes et de praticiens d’une robotique responsable. Ensemble, nous explorerons un domaine en pleine mutation. Au fil du parcours, nous verrons pourquoi les robots ne se résument pas à une simple IA dotée d’un corps physique, ce que les plus récentes avancées en interaction humain-robot peuvent nous apprendre, et quelles nouvelles problématiques émergent de cette évolution technologique rapide.

Le cours privilégie une approche dynamique et interactive. Il combine des conférences données par des intervenants invités, des cours magistraux dispensés par l’enseignant ainsi que des activités animées par les étudiants. À l’issue de la session, ces derniers auront acquis une solide compréhension de la robotique propulsée par l’IA et de l’interaction humain-robot, tout en maîtrisant le rôle concret que peuvent jouer des spécialistes engagés dans les secteurs de l’IA et de la robotique.

Ce cours couvre un ensemble de sujets sélectionnés dans le domaine de l'apprentissage automatique et de l'exploration de données, en mettant l'accent sur la compréhension du fonctionnement interne des algorithmes courants. La majorité des sections sont liées aux techniques d'apprentissage supervisé couramment utilisées et, dans une moindre mesure, aux méthodes non supervisées. Cela inclut les bases des algorithmes de régression linéaire et logistique, les arbres de décision, les machines à vecteurs de support, le clustering, les réseaux neuronaux, ainsi que les techniques clés pour la sélection des caractéristiques et la réduction de la dimensionnalité, l'estimation de l'erreur et la validation empirique.

Il s'agit d'un cours de type séminaire, dans le cadre duquel l'ensemble de la classe travaillera ensemble à l'organisation du cours. Dans les premiers cours, je donnerai une vue d'ensemble des LLM et je soulignerai les défis à relever. À la fin du cours, vous devriez être en mesure de contribuer de manière significative à la recherche de pointe dans le domaine de la compréhension du langage naturel.

Les réseaux de flux génératifs, également connus sous le nom de GFlowNets ou simplement GFN, sont une classe de modèles d'apprentissage automatique génératifs qui effectuent une inférence probabiliste amortie. Ce cours couvrira les aspects fondamentaux de GFlowNets, à partir d'une motivation et d'une introduction à la méthode, en progressant vers des concepts et applications plus avancés, ainsi que le lien avec d'autres modèles génératifs et méthodes d'inférence probabiliste. Le cours combinera la théorie avec le travail de projet, avec un accent particulier sur l'application des GFlowNets pour la découverte scientifique.

La prédiction (le piège statistique, la probabilité, la généralisation, la répétabilité). La méthode de maintien (stabilité, validité interne). Benchmarks d'apprentissage automatique (histoire de la conception des benchmarks, échecs d'évaluation, benchmarks dynamiques, benchmarking multi-tâches, sensibilité). Validité externe, reproductibilité, robustesse (déplacement de la distribution). Adaptabilité et surajustement (réutilisation des jeux d'essai). Validité du construit (contexte, portée, défense lakatosienne). Évaluation de l'incertitude (erreur d'étalonnage, ensembles de prédictions, inférence conforme). Évaluation des prévisions (règles de notation, prise en compte de l'incertitude, séquences de confiance). Les jeux en tant que points de référence (histoire des jeux de référence). Évaluation des interventions (validité temporelle, conformité, ajustement). Réglementation et déploiement (évaluation des programmes, évaluation des politiques, audit via des tests d'hypothèses séquentiels).

Applications des probabilités, statistiques et optimisation pour la science des données; nettoyage et visualisation de données; enjeux statistiques de l'apprentissage automatique sur données structurées; généralisation et surapprentissage.

L'apprentissage statistique est une discipline qui concerne l'extraction d'informations à partir de données observées en vue de résoudre un problème précis. Il peut s'agir par exemple de détecter des motifs dans des signaux (images, séries chronologiques), d'identier des liens d'association entre diérentes variables ou encore de mettre en évidence des structures de groupe dans un jeu de données.

Il s'agit d'un cours d'introduction à l'apprentissage par renforcement (RL) et à la prise de décision séquentielle en situation d'incertitude, qui met l'accent sur la compréhension des fondements théoriques. Nous étudions comment les méthodes de programmation dynamique telles que l'itération de valeur et de politique peuvent être utilisées pour résoudre des problèmes de prise de décision séquentielle avec des modèles connus, et comment ces approches peuvent être étendues afin de résoudre des problèmes d'apprentissage par renforcement, où le modèle est inconnu. D'autres sujets incluent, mais ne sont pas limités à, l'approximation de fonction dans RL, les méthodes de gradient de politique, RL basé sur le modèle, et l'équilibre du compromis exploration-exploitation. Le cours sera dispensé sous la forme d'un mélange de conférences et de lecture d'articles classiques et récents assignés aux étudiants. L'accent étant mis sur la compréhension des fondements, vous devez vous attendre à passer par des détails mathématiques et des preuves. Les connaissances requises pour ce cours comprennent la théorie des probabilités et les statistiques, le calcul, l'algèbre linéaire, l'optimisation et l'apprentissage automatique (supervisé).

Bien que les graphes soient intuitivement et naturellement représentés par des sommets et des arêtes, ces représentations sont limitées, tant en matière d'analyse théorique que la mise en œuvre pratique d'algorithmes de graphes. Une approche plus puissante est obtenue en représentant les graphes par des matrices appropriées (p.ex., des matrices d'adjacence, des noyaux de diffusion ou des laplaciens de graphes) qui capturent les relations intrinsèques entre les sommets sur la "géométrie" représentée par la structure du graphe. La théorie spectrale des graphes exploite ces matrices, et en particulier leurs décompositions spectrales (ou en valeurs et vecteurs propres), pour étudier les propriétés des graphes et leur structure intrinsèque sous-jacente. Cette étude conduit à des résultats surprenants et élégants, non seulement d'un point de vue mathématique, mais aussi dans la pratique avec des implémentations réalisables utilisées, par exemple, dans le regroupement, la visualisation, la réduction de la dimensionnalité, l'apprentissage de variétés et l'apprentissage profond géométrique. Enfin, comme presque toutes les données modernes peuvent aujourd'hui être modélisées sous forme de graphe, soit naturellement (p.ex., les réseaux sociaux), soit par le biais de mesures d'affinité appropriées, les notions et les outils étudiés dans ce cours fournissent un cadre puissant pour saisir et comprendre la géométrie des données en général.

Le cours est prévu pour être donné en anglais (pour accommoder des étudiants anglophones), sauf si tous les étudiants en classe sont francophones et demandent qu'il soit donné en français. Néanmoins, tous les travaux faits par les étudiants pourront toujours être remis en français. 

Il s'agit d'un cours sur l'apprentissage par représentation en général et l'apprentissage profond en particulier. L'apprentissage profond a récemment été à l'origine d'un grand nombre de gains empiriques impressionnants dans un large éventail d'applications, notamment la vision par ordinateur, le traitement du langage naturel et la reconnaissance vocale.