U-Net Fixed-Point Quantization for Medical Image Segmentation

Applications Médicales
Août 2019

U-Net Fixed-Point Quantization for Medical Image Segmentation

Août 2019

La quantification du modèle est mise à profit pour réduire la consommation de mémoire et le temps de calcul des réseaux de neurones profonds. Ceci est réalisé en représentant les poids et les activations avec une résolution de bits inférieure à celle de leurs équivalents en virgule flottante de haute précision. Le niveau de quantification approprié est directement lié aux performances du modèle. L’abaissement de la précision de quantification (par exemple 2 bits) réduit la quantité de mémoire nécessaire pour stocker les paramètres de modèle et la quantité de logique nécessaire pour mettre en œuvre des blocs de calcul, ce qui contribue à réduire la consommation d’énergie de l’ensemble du système. Ces avantages se font généralement au détriment de la précision. Le principal défi consiste à quantifier un réseau autant que possible, tout en maintenant la précision des performances. Dans ce travail, nous présentons une méthode de quantification pour l’architecture U-Net, un modèle populaire dans la segmentation d’images médicales. Nous appliquons ensuite notre algorithme de quantification à trois ensembles de données: (1) la segmentation de la matière grise de la moelle épinière (GM), (2) le défi de l’ISBI pour la segmentation des structures neuronales en microscopie électronique (EM), et (3) le National Institute of Santé (NIH) pour la segmentation du pancréas en scanner abdominal. Les résultats rapportés démontrent que, avec seulement 4 bits pour les poids et 6 bits pour les activations, nous obtenons une réduction de 8 fois la mémoire requise tout en perdant seulement 2,21%, 0,57% et 2,09% des résultats de recouvrement des dés pour les jeux de données EM, GM et NIH, respectivement. Notre quantification à point fixe offre un compromis flexible entre précision et exigence de mémoire, ce qui n’est pas fourni par les méthodes de quantification précédentes pour U-Net telles que TernaryNet.

Reference

PDF

Linked Profiles