6.4.11. Полный процесс прямого и обратного преобразования и квантования

Процесс обработки входного остаточного блока , приводящий к выходному остаточному блоку , описан ниже и проиллюстрирован на рис. 6.38.

Кодирование.

1. Вход: остаточные сэмплы 4x4: .

2. Прямое «базовое» преобразование:

(после которого применяется прямое преобразование хроматических коэффициентов DC и коэффициентов DC яркости в моде intra-16.)

3. Масштабирование и квантование:

(разные процедуры для DC коэффициентов хроматичности и яркости intra-16).

Декодирование.

(Обратное преобразование хроматических коэффициентов DC и коэффициентов DC яркости в моде intra-16.)

1. Деквантование (вместе со встроенной процедурой демасштабирования обратного преобразования):

(разные процедуры для DC коэффициентов хроматичности и яркости intra-16).

2. Обратное «базовое» преобразование: .

3. Демасштабирование: .

4. Выход: остаточные сэмплы 4x4: .

Пример (остаточный блок яркости 4 х 4 в моде intra) QP=10 Входной блок X: Выход «базового» преобразования W: MF = 8192, 3355 и 5243 (в зависимости от индексов коэффициентов), qbits = 16 и . Выход прямого квантователя Z: V = 16, 25 или 20 (в зависимости от индексов) и . Выход обратного деквантователя W': Выход «базового» преобразования X" (после деления на 64 и округления):