Investigations of the error resilient rate distortion optimization for H.264 video transport over packet lossy channels

Abstract

This dissertation first presents a rigorous analysis of the rate-distortion optimization (RDO) framework in H.264 and other similar video coding standards. The analysis is based on the rate-distortion theory and provides a deep theoretical insight into the RDO practice. In the analysis, the crucial assumptions and models on which the RDO is based, are formulated and discussed. Then the validity of deploying the RDO in error resilient video encoding is analyzed. Finally, the dissertation proposes and investigates two modification schemes to the error resilient RDO (ER-RDO) framework in the H.264 reference codec. The schemes are inspired by the aforementioned analyses and seek to find better complexity-performance balance points. The simulation results suggest that the performance of the existing H.264 ER-RDO framework has already been highly optimized. On the other side, algorithm complexity reduction is still possible using one of the proposed schemes.

Diese Dissertation stellt zunächst eine eingehende Analyse der Rate-Distortion-Optimierung (RDO) für H.264 und ähnliche Standards der Videocodierung. Die Analyse basiert auf der Rate-Distortion-Theorie und liefert einen tiefen theoretische Einblick in ihre praktische Anwendung. Bei der analytische Betrachtung werden die wichtigsten Annahmen und Modelle, auf denen die RDO beruht, wiedergegeben und diskutiert. Danach wird die Gültigkeit des RDO-Einsatzes für fehlertolerante Videocodierung analysiert. Schließlich werden zwei ¨Änderungsvorschläge für die Grundstruktur der fehlertoleranten RDO (ER-RDO) diskutiert und mittels des H.264-Referenz-Codecs untersucht. Die Änderungsvorschläge wurden auf der Basis der ausgeführten Analysen entwickelt und sollen ein besseres Gleichgewicht zwischen Komplexität und Leistungsfähigkeit finden. Die Simulationsergebnisse zeigen, dass die Leistungsfähigkeit der bestehenden H.264-ER-RDO bereits stark optimiert ist. Jedoch kann mit einem der vorgeschlagenen Verfahren die Komplexität des Algorithmus reduziert werden.