Large-margin representation learning for small-size datasets

Résumé

Ce travail présente une nouvelle approche combinant des couches convolutives et un apprentissage métrique à large marge pour l’apprentissage de modèles supervisés sur des ensembles de données de petite taille. Cette approche comporte quatre composantes principales : i) un ensemble de couches convolutives avec une couche de mis-en-commun par moyenne globale; ii) une méthode de sélection d’instances pour choisir des ancres et les instances d’intérêt; iii) une fonction de perte pour induire la mise à jour du poids des couches convolutives; iv) un discriminant à large marge. Les images sont fournies aux couches convolutives pour générer une représentation latente, puis utilisées pour entraîner un discriminant à large marge. Les informations du discriminant (vecteurs de support et prédictions) aident à sélectionner des ancres et des instances d’intérêt pour construire une fonction de perte qui vise à minimiser la distance entre les échantillons choisis. La mise à jour du poids à l’aide de la fonction de perte cherche à modifier la représentation latente pour augmenter la marge entre les classes. L’avantage de la méthode proposée est qu’elle peut entraîner une banque de filtres avec une petite quantité de données en raison du nombre réduit de paramètres. Il amène aussi à des coûts d’entraînement réduit puisque seul un sous-ensemble d’instances est utilisé dans l’algorithme de rétropropagation. Les résultats expérimentaux avec un ensemble de données synthétiques, un ensemble de données d’images de texture et trois ensembles de données d’images histopathologiques (avec des caractéristiques de texture) montrent que la méthode proposée converge rapidement, en quelques époques. De plus, les autres avantages sont le faible coût de calcul, des précisions proches ou supérieures à ceux des méthodes équivalentes, un traitement satisfaisant des données déséquilibrées et l’adaptation des filtres à différents types de textures.

Date	11 juil. 2023
langue originale	Anglais américain
Établissement diplômant	École de technologie supérieure
Superviseur	Alessandro Lameiras Koerich (Directeur(-trice)) & Alceu Jr. de Souza Britto (Codirecteur(-trice))