Attention mechanism in neural network for early diagnosis in newborns using cry signals

Résumé

Les humains utilisent leur voix pour communiquer, et elle est souvent motivée par l'instinct. À plus grande échelle, ce même instinct peut s'appliquer à un nouveau-né qui tente de s'exprimer, avec évidemment, son cri. Selon des études antérieures réalisés sur ce sujet, il existe une forte corrélation entre le cri d'un nourrisson et l'état psychologique et la pathologie qui affecte ce dernier. Cette étude se concentre sur la recherche d'une corrélation et l'identification de l'état du nouveau-né à l'aide d'un réseau de neurones. Cet outil aiderait les experts à identifier quelque chose qu'ils auraient pu potentiellement ignorer et à mieux diagnostiquer un nouveauné en fonction de la maladie qui l'affecte et ce, avant qu’il ne soit trop tard. Que ce soit dans un pays développé ou un pays en développement, cette solution ne nécessite aucun matériel de diagnostic coûteux. Dans cette étude, nous utilisons le mécanisme d’Attention dans un réseau neuronal qui a connu un succès au cours des deux dernières années dans la reconnaissance vocale et la traduction de texte. La couche d’attention permet au réseau de se concentrer sur différents aspects de l’entrée. Le Transformer utilise l'architecture Encodeur-Decodeur pour résumer l'intégralité de l'entrée avant de sortir les résultats, qui sont fortement liés à chaque séquence d'entrée. L'idée est d'éliminer la dépendance de l'entrée de longueur fixe menée dans les études précédentes. Le mécanisme d'attention amélioré LSTM (Long short-term memory) est un réseau neuronal récurrent qui hérite la couche du Self-Attention du Transformer. Pour chaque échantillon de cri, seules les sessions d'expiration sont extraites pour générer la matrice des coefficients cepstraux à fréquence Mel (MFCC). Ces paramètres sont ensuite alimentés dans le réseau neuronal. En utilisant les données à notre disposition, nous formons le réseau et le testons avec de nouvelles données pour comparer les performances avec la variante classique par défaut du LSTM. Plusieurs études précédentes utilisent le même ensemble de données, donc les résultats sont comparés aux mêmes critères pour évaluer les performances de cette variante. Les fonctionnalités et les paramètres sont optimisés avec les deux variantes pour obtenir une vue globale du mécanisme Attention pour le diagnostic précoce chez le nouveau-né et conclure si cette voie peut être empruntée ou non.

Date	9 nov. 2021
langue originale	Anglais américain
Établissement diplômant	École de technologie supérieure
Superviseur	Chakib Tadj (Directeur(-trice))