Dynamic selection of ensemble of classifiers using meta-learning

Résumé

Les systèmes de sélection dynamique des ensembles de classifieurs fonctionnent en estimant le niveau de compétence de chaque classifieur estimé dans une région de compétence. Seuls les plus compétents sont choisis dynamiquement pour classer chaque échantillon de test. Le niveau de compétence des classifieurs est généralement estimé à partir du voisinage de l’échantillon à classer, selon un critère donné, comme la performance locale ou la confiance du classifieur de base, calculée sur ce voisinage. Cependant, en utilisant un seul critère de sélection, cela peut conduire à une mauvaise estimation de la compétence du classifieur et par conséquent, sélectionner des classifieurs incompétents. Dans cette thèse, le mécanisme de sélection dynamique d’un classifieur est formulé comme un méta-problème. Les méta-caractéristiques permettant de représenter ce méta-problème sont les différents critères utilisés normalement pour mesurer le niveau de compétence du classifieur de base. Chaque méta-caractéristique capture une propriété différente du comportement du classifieur de base, et peut être considéré comme un critère différent pour estimer le niveau de compétence d’un classifieur de base telles que la performance de classification dans une région locale de l’espace de caractéristiques et de la confiance du classifieur pour la classification de l’échantillon d’entrée. Ainsi, plusieurs critères peuvent être utilisés conjointement pour une meilleure estimation des compétences des classifieurs. Dans le chapitre 2, une nouvelle technique de sélection dynamique des ensemble de classifieurs utilisant le méta-apprentissage est proposé, appelé META-DES. Cinq ensembles distincts de méta-caractéristiques, chacun correspondant à un critère différent pour mesurer le niveau de compétence d’un classifieur pour la classification des échantillons d’entrée sont introduits pour ce méta-problème. Les méta-caractéristiques sont extraites des données de validation et utilisées pour entraîner un méta-classifieur pour prédire le niveau de compétence des classifieurs étant donné un exemple à classer. Au cours de la phase de généralisation, les méta-caractéristiques sont extraites de l’instance de requête et transmisent en entrée du métaclassifieur, lequel détermine si un classifieur de base est assez compétent pour être ajouté à l’ensemble. Des expériences sont menées sur plusieurs problèmes de reconnaissance. Les résultats expérimentaux montrent que le META-DES améliore considérablement la performance en classification lorsqu’on les compare à l’état de l’art dans le domaine de la sélection dynamique. Une analyse étape par étape de chaque processus du système META-DES est présentée au chapitre 3. Nous montrons comment chaque ensemble de méta-caractéristiques est extrait, ainsi que leur impact sur l’estimation du niveau de compétence du classifieur de base. En outre, une analyse de l’impact de plusieurs facteurs sur la performance du système est réalisée sur le problème synthétique P2 : par exemple, le nombre de classifieurs inclus dans le bassin, de même que la taille des données de validation sont considérés. Les résultats expérimentaux montrent que la sélection dynamique de classifieurs à fonctions discriminantes linéaires à travers le schéma META-DES, permet de résoudre les problèmes de classification caractérisés par une frontière de décision de géométrie complexe. Dans le chapitre 4, une nouvelle version du schéma META-DES optimisé en fonction de la performance de l’Oracle, appelé META-DES.Oracle est proposée. L’Oracle est une méthode abstraite qui représente un mécanisme de sélection de classifieur idéal. Une sélection de métacaractéristiques effectuée à l’aide d’une optimisation par essaims particulaires (OEP, ou PSO en anglais) est proposée pour améliorer la performance du méta-classifieur. La différence entre les résultats obtenus par le méta-classifieur et ceux présentés par Oracle est minimisé. L’objectif visé est d’augmenter la performance en sélection du méta-classifieur pour approcher celle de l’Oracle. Les expériences réalisées à l’aide de 30 problèmes de classification démontrent que la procédure d’optimisation basée sur la performance de l’Oracle conduit à une amélioration significative de la précision de la classification par rapport aux versions précédentes du METADES. Enfin, au chapitre 5, deux techniques sont analysées afin d’améliorer la performance en généralisation du META-DES, ainsi que des autres techniques de sélection dynamique proposées dans la littérature. Tout d’abord, une technique de sélection de prototypes est appliquée sur les données de validation pour réduire la quantité de chevauchement entre les classes. Au cours de la généralisation, un algorithme K-plus proches voisins adaptatif est utilisé pour une meilleure définition du voisinage de l’échantillon d’essai. Le but visé est d’améliorer l’estimation du niveau de compétence des classifieurs dans la région de compétence en donnant plus d’importance aux exelples qui sont éloignés de la frontière entre les classes. Des expériences ont été effectuées en utilisant 10 techniques de sélection et plus de 30 problèmes de classification. Les résultats démontrent que l’utilisation conjointe de la sélection de prototypes pour éditer des données de validation et la distance d’adaptation locale améliorent sensiblement la précision de la classification des techniques de sélection dynamique.

Date	9 juin 2016
langue originale	Anglais américain
Établissement diplômant	École de technologie supérieure
Superviseur	Robert Sabourin (Directeur(-trice)) & George D.C. Cavalcanti (Codirecteur(-trice))