Mila > Publication > Bridging the Gap Between Deep Learning and Neuroscience > Towards deep learning with spiking neurons in energy based models with contrastive Hebbian plasticity

Towards deep learning with spiking neurons in energy based models with contrastive Hebbian plasticity

Bridging the Gap Between Deep Learning and Neuroscience
Oct 2017

Towards deep learning with spiking neurons in energy based models with contrastive Hebbian plasticity

Oct 2017

Dans l’apprentissage automatique, la rétro-propagation des erreurs dans les réseaux de neurones multicouches (apprentissage en profondeur) a connu un succès impressionnant dans les tâches d’apprentissage supervisé et de renforcement. En tant que modèle d’apprentissage cérébral, l’apprentissage en profondeur a longtemps été considéré comme invraisemblable, car il repose essentiellement sur une règle de plasticité non locale. Pour surmonter ce problème, des modèles basés sur l’énergie avec l’apprentissage Hebbien contrastif local ont été proposés et testés sur une tâche de classification avec des réseaux de neurones à taux. Nous avons étendu ce travail en mettant en œuvre et en testant un tel modèle avec des réseaux de neurones à intégration et à feu qui fuient. Les résultats préliminaires indiquent qu’il est possible d’apprendre une tâche de régression non linéaire avec des couches cachées, des neurones dopants et une règle de plasticité synaptique locale.

Reference

Linked Profiles