Macroblock level rate and distortion estimation applied to the computation of the Lagrange multiplier in H.264 compression

Résumé

La valeur optimale du multiplicateur de Lagrange (λ ), un facteur de compromis entre le débit obtenu et la distorsion mesurée lors de la compression d’un signal, est un problème fondamental de la théorie de la débit-distorsion et particulièrement de la compression vidéo. Le standard H.264 ne spécifie pas comment déterminer la combinaison optimale des valeurs des paramètres de quantification (QP) et des choix de codage (vecteurs de mouvement, choix de mode). Actuellement, le processus d’encodage est encore dépendant de la valeur statique du multiplicateur de Lagrange, dont une dépendance exponentielle du QP est adoptée par la communauté scientifique, mais qui ne peut pas accommoder la diversité des vidéos. La détermination efficace de sa valeur optimale reste encore un défi à relever et un sujet de recherche d’actualité. Dans la présente recherche, nous proposons un nouvel algorithme qui adapte de façon dynamique le multiplicateur de Lagrange en fonction des caractéristiques de la vidéo d’entrée en utilisant la distribution des résidus transformés au niveau du macrobloc. Le but recherché est d’augmenter la performance de codage de l’espace débit-distorsion. Nous appliquons plusieurs modèles aux coefficients résiduels transformés (Laplace, Gaussien, densité de probabilité générique) au niveau du macrobloc pour estimer le débit et la distorsion et étudier dans quelle mesure ils correspondent aux vraies valeurs. Nous analysons ensuite les bénéfices et désavantages de quelques modèles simples (Laplace et un mélange de Laplace et Gaussien) du point de vue du gain en compression et de l’amélioration visuelle en rapport avec le code de référence du standard H.264 (amélioration débitdistorsion). Plutôt que de calculer le multiplicateur de Lagrange basé sur un seul modèle appliqué sur toute la trame, comme proposé dans l’état de l’art, nous le calculons basé sur des modèles appliqués au niveau du macroblock. Le nouvel algorithme estime, à partir de la distribution des résidus transformés du macrobloc, le débit et la distorsion de chacun, pour ensuite combiner la contribution de chacun pour calculer multiplicateur de Lagrange de la trame. Les expériences sur des types variés de vidéos ont démontré que la distorsion calculée au niveau du macrobloc est proche de la distorsion réelle offerte par le logiciel de compression vidéo de référence pour la plupart des séquences vidéo testées, mais un modèle fiable pour le débit est encore recherché particulièrement à très bas débit. Néanmoins, les résultats de compression de diverses séquences vidéo montrent que la méthode proposée performe beaucoup mieux que le Joint Model du standard H.264 et un peu mieux que l’état de l’art.

Date	17 mars 2014
langue originale	Anglais américain
Établissement diplômant	École de technologie supérieure
Superviseur	Stéphane Coulombe (Directeur(-trice))