Portrait de Ross Goroshin

Ross Goroshin

Membre industriel principal
Professeur associé, Université de Montréal, Département d'informatique et de recherche opérationnelle
Google DeepMind
Sujets de recherche
Apprentissage de représentations
Apprentissage profond
IA appliquée
Systèmes dynamiques
Vision par ordinateur

Biographie

Ross Goroshin est chercheur chez Google DeepMind, à Montréal et membre industriel principal à Mila - Institut québécois d'intelligence artificielle. Il est titulaire d'un doctorat en informatique de l'Université de New York, où il a été supervisé par Yann LeCun. Il est également titulaire d'un baccalauréat en génie électrique de l'Université Concordia et d'une maîtrise en génie électrique de Georgia Tech. Ses recherches portent sur la vision par ordinateur, l'apprentissage auto-supervisé et le contrôle optimal.

En plus de ses rôles chez Google DeepMind et Mila, Ross est professeur adjoint au Département d'informatique et de recherche opérationnelle (DIRO) de l'Université de Montréal.

Publications

An Effective Anti-Aliasing Approach for Residual Networks
Cristina Vasconcelos
Hugo Larochelle
Vincent Dumoulin
Nicolas Le Roux
Ross Goroshin
Image pre-processing in the frequency domain has traditionally played a vital role in computer vision and was even part of the standard pipe… (voir plus)line in the early days of deep learning. However, with the advent of large datasets, many practitioners concluded that this was unnecessary due to the belief that these priors can be learned from the data itself. Frequency aliasing is a phenomenon that may occur when sub-sampling any signal, such as an image or feature map, causing distortion in the sub-sampled output. We show that we can mitigate this effect by placing non-trainable blur filters and using smooth activation functions at key locations, particularly where networks lack the capacity to learn them. These simple architectural changes lead to substantial improvements in out-of-distribution generalization on both image classification under natural corruptions on ImageNet-C [10] and few-shot learning on Meta-Dataset [17], without introducing additional trainable parameters and using the default hyper-parameters of open source codebases.
2020-11-20
ArXiv (prépublication)
arxiv.org
arxiv.org