The mechanics of CNN filtering with rectification

Résumé

Cette thèse constitue la première étude des propriétés mécaniques du filtrage convolutionnel avec rectification, étudiée sous l’angle des noyaux convolutionnels symétriques et antisymétriques. Les noyaux symétriques provoquent une diffusion isotrope du contenu de l’image sans déplacement net, tandis que les noyaux antisymétriques entraînent des effets de déplacement directionnel et d’atténuation lorsqu’ils sont convolués séquentiellement selon des orientations variables. La vitesse de déplacement de l’information est linéairement liée au rapport entre l’énergie antisymétrique et l’énergie totale du noyau. Les propriétés de symétrie sont analysées dans le domaine spectral à l’aide de la transformée en cosinus discrète (DCT), où la structure des petits filtres convolutionnels (par exemple 3 × 3 pixels) est dominée par les bases de basse fréquence, en particulier la composante continue DC Σ et les composantes de gradient ∇, qui définissent les modes fondamentaux de propagation de l’information. En appliquant cette analyse aux filtres de CNN entraînés, nous constatons que les composantes fréquentielles d’ordre faible (notamment les bases DC et de gradient) dominent, représentant plus de 92% des performances de classification dans des modèles populaires tels que VGG16 et ResNet50. La symétrie des noyaux évolue avec la profondeur : les premières couches sont majoritairement antisymétriques, mettant en évidence les gradients orientés, tandis que les couches plus profondes deviennent progressivement plus symétriques, favorisant la diffusion. De plus, nous observons que les filtres s’organisent en structures d’orientation bipolaire corrélée à travers les canaux et les couches, maintenant une cohérence directionnelle entre les noyaux consécutifs tout en supprimant les activations orthogonales. Ce travail fournit un cadre systématique pour l’analyse, l’interprétation et, potentiellement, l’orientation de la conception d’architectures et d’algorithmes d’apprentissage améliorés à travers leur structure géométrique et spectrale.

Date	29 déc. 2025
langue originale	Anglais américain
Établissement diplômant	École de technologie supérieure
Superviseur	Matthew Toews (Directeur(-trice))