Évaluation réaliste de l’apprentissage Few-Shot transductif

Résumé

La communauté de l’apprentissage Few-Shot porte un grand intérêt de recherche pour les méthodes transductives. Ces méthodes posent leur inférence en exploitant à la fois les données annotées de la base de support et celles non-annotées de la base de query. Elles ont su surpassé de manière significative les performances des méthodes inductives. Nous remettons en question les performances de ces méthodes par le fait que le processus d’évaluation actuel n’est pas adéquat. Les méthodes sont évaluées en fonction de leur capacité de généralisation afin de classifier correctement les données de la base de query. Dans la littérature actuelle, la distribution des classes des données query est uniforme. Le fait de connaître au préalable la distribution des classes des données à classifier ne reflète pas le défi d’un problème de classification réaliste. De plus, l’inférence de certaines méthodes transductives s’effectuent en exploitant cette fausse information a priori. Afin de générer des tâches de classification aléatoires, nous proposons d’échantillonner les probabilités marginales des classes de la base de query en suivant la distribution de Dirichlet. Nous avons évaluées les méthodes de l’état de l’art sur trois bases de données de référence : mini- Imagenet, tiered-Imagenet et Caltech-UCSD Birds 200 (CUB) et en utilisant deux architectures de réseau de neurones : ResNet-18 et WRN28-10. Toutes les méthodes transductives souffrent de perte de performances lorsqu’évaluées à l’aide de tâches aléatoirement distribuées. Il est également intéressant d’observer que les méthodes les plus performantes dans la littérature de l’apprentissage Few-Shot actuelle sont celles qui souffrent le plus de notre scénario de test, soit en subissant des pertes de performances allant jusqu’à près de 20%. Nous proposons une méthode transductive (a-TIM) ) pour s’attaquer à ce nouveau problème de classification réaliste. Nous utilisons la divergence-a pour généraliser la fonction de coût exploitant l’information mutuelle. Cette forme de divergence est robuste en faisant face à différentes sévérités de déséquilibre de classes. De plus, nos résultats expérimentaux montrent que notre méthode surpassent les performances de toutes les méthodes de l’état de l’art évaluées. Le code de ce projet se trouve dans le répertoire GitHub suivant : https://github.com/oveilleux/Realistic_Transductive_Few_Shot.

Date	10 mai 2022
langue originale	Français
Établissement diplômant	École de technologie supérieure
Superviseur	Ismail Ben Ayed (Directeur(-trice))