Cours et horaires

Ce cours couvre un ensemble de sujets sélectionnés dans le domaine de l'apprentissage automatique et de l'exploration de données, en mettant l'accent sur la compréhension du fonctionnement interne des algorithmes courants. La majorité des sections sont liées aux techniques d'apprentissage supervisé couramment utilisées et, dans une moindre mesure, aux méthodes non supervisées. Cela inclut les bases des algorithmes de régression linéaire et logistique, les arbres de décision, les machines à vecteurs de support, le clustering, les réseaux neuronaux, ainsi que les techniques clés pour la sélection des caractéristiques et la réduction de la dimensionnalité, l'estimation de l'erreur et la validation empirique.

Il s'agit d'un cours de type séminaire, dans le cadre duquel l'ensemble de la classe travaillera ensemble à l'organisation du cours. Dans les premiers cours, je donnerai une vue d'ensemble des LLM et je soulignerai les défis à relever. À la fin du cours, vous devriez être en mesure de contribuer de manière significative à la recherche de pointe dans le domaine de la compréhension du langage naturel.

Les réseaux de flux génératifs, également connus sous le nom de GFlowNets ou simplement GFN, sont une classe de modèles d'apprentissage automatique génératifs qui effectuent une inférence probabiliste amortie. Ce cours couvrira les aspects fondamentaux de GFlowNets, à partir d'une motivation et d'une introduction à la méthode, en progressant vers des concepts et applications plus avancés, ainsi que le lien avec d'autres modèles génératifs et méthodes d'inférence probabiliste. Le cours combinera la théorie avec le travail de projet, avec un accent particulier sur l'application des GFlowNets pour la découverte scientifique.

La prédiction (le piège statistique, la probabilité, la généralisation, la répétabilité). La méthode de maintien (stabilité, validité interne). Benchmarks d'apprentissage automatique (histoire de la conception des benchmarks, échecs d'évaluation, benchmarks dynamiques, benchmarking multi-tâches, sensibilité). Validité externe, reproductibilité, robustesse (déplacement de la distribution). Adaptabilité et surajustement (réutilisation des jeux d'essai). Validité du construit (contexte, portée, défense lakatosienne). Évaluation de l'incertitude (erreur d'étalonnage, ensembles de prédictions, inférence conforme). Évaluation des prévisions (règles de notation, prise en compte de l'incertitude, séquences de confiance). Les jeux en tant que points de référence (histoire des jeux de référence). Évaluation des interventions (validité temporelle, conformité, ajustement). Réglementation et déploiement (évaluation des programmes, évaluation des politiques, audit via des tests d'hypothèses séquentiels).

Applications des probabilités, statistiques et optimisation pour la science des données; nettoyage et visualisation de données; enjeux statistiques de l'apprentissage automatique sur données structurées; généralisation et surapprentissage.

L'apprentissage statistique est une discipline qui concerne l'extraction d'informations à partir de données observées en vue de résoudre un problème précis. Il peut s'agir par exemple de détecter des motifs dans des signaux (images, séries chronologiques), d'identier des liens d'association entre diérentes variables ou encore de mettre en évidence des structures de groupe dans un jeu de données.

Séminaire de cycles supérieurs sur des sujets avancés liés au contrôle des LLM.

Graduate seminar in theoretical guarantees for post-deployment auditing.

Il s'agit d'un cours d'introduction à l'apprentissage par renforcement (RL) et à la prise de décision séquentielle en situation d'incertitude, qui met l'accent sur la compréhension des fondements théoriques. Nous étudions comment les méthodes de programmation dynamique telles que l'itération de valeur et de politique peuvent être utilisées pour résoudre des problèmes de prise de décision séquentielle avec des modèles connus, et comment ces approches peuvent être étendues afin de résoudre des problèmes d'apprentissage par renforcement, où le modèle est inconnu. D'autres sujets incluent, mais ne sont pas limités à, l'approximation de fonction dans RL, les méthodes de gradient de politique, RL basé sur le modèle, et l'équilibre du compromis exploration-exploitation. Le cours sera dispensé sous la forme d'un mélange de conférences et de lecture d'articles classiques et récents assignés aux étudiants. L'accent étant mis sur la compréhension des fondements, vous devez vous attendre à passer par des détails mathématiques et des preuves. Les connaissances requises pour ce cours comprennent la théorie des probabilités et les statistiques, le calcul, l'algèbre linéaire, l'optimisation et l'apprentissage automatique (supervisé).

Bien que les graphes soient intuitivement et naturellement représentés par des sommets et des arêtes, ces représentations sont limitées, tant en matière d'analyse théorique que la mise en œuvre pratique d'algorithmes de graphes. Une approche plus puissante est obtenue en représentant les graphes par des matrices appropriées (p.ex., des matrices d'adjacence, des noyaux de diffusion ou des laplaciens de graphes) qui capturent les relations intrinsèques entre les sommets sur la "géométrie" représentée par la structure du graphe. La théorie spectrale des graphes exploite ces matrices, et en particulier leurs décompositions spectrales (ou en valeurs et vecteurs propres), pour étudier les propriétés des graphes et leur structure intrinsèque sous-jacente. Cette étude conduit à des résultats surprenants et élégants, non seulement d'un point de vue mathématique, mais aussi dans la pratique avec des implémentations réalisables utilisées, par exemple, dans le regroupement, la visualisation, la réduction de la dimensionnalité, l'apprentissage de variétés et l'apprentissage profond géométrique. Enfin, comme presque toutes les données modernes peuvent aujourd'hui être modélisées sous forme de graphe, soit naturellement (p.ex., les réseaux sociaux), soit par le biais de mesures d'affinité appropriées, les notions et les outils étudiés dans ce cours fournissent un cadre puissant pour saisir et comprendre la géométrie des données en général.

Le cours est prévu pour être donné en anglais (pour accommoder des étudiants anglophones), sauf si tous les étudiants en classe sont francophones et demandent qu'il soit donné en français. Néanmoins, tous les travaux faits par les étudiants pourront toujours être remis en français. 

Il s'agit d'un cours sur l'apprentissage par représentation en général et l'apprentissage profond en particulier. L'apprentissage profond a récemment été à l'origine d'un grand nombre de gains empiriques impressionnants dans un large éventail d'applications, notamment la vision par ordinateur, le traitement du langage naturel et la reconnaissance vocale.

Ce cours de style séminaire se concentrera sur les avancées récentes dans le domaine en développement rapide des “modèles de base”, c’est-à-dire des modèles de réseaux de neurones à grande échelle (par exemple, GPT-3, CLIP, DALL-e, etc.) préformés sur de très grands, divers ensembles de données.