3.4.2. Скалярное квантование
При кодировании источника квантователь может быть оптимизирован, если известна ФПВ уровней сигнала на входе квантователя. Например, предположим, что последовательность
на входе квантователя имеет ФПВ
и
- желаемое число уровней квантования. Необходимо рассчитать оптимальный скалярный квантователь, который минимизирует некоторую функцию ошибки квантования
, где
- квантованное значение
. Для дальнейшей разработки предположим, что
определяет желательную функцию ошибки. Тогда искажение, возникающее за счёт квантования сигнальных уровней, равно
. (3.4.22)
В общем, оптимальный квантователь минимизирует
путём оптимального выбора выходных уровней и входного диапазона для каждого выходного уровня. Эту оптимизационную проблему рассматривали Ллойд (1982) и Макс (1960), и полученный оптимальный квантователь назван квантователем Ллойда-Макса.
У равномерного квантователя выходные уровни определяются как
для амплитуды входного сигнала в диапазоне
, где
- размер шага квантования. Если квантователь симметричен (относительно нуля) с конечным числом уровней, среднее искажение (3.4.22) может быть выражено в виде
. (3.4.23)
В этом случае минимизация
выполняется с учётом параметра размера шага
.
Путём дифференцирования
по
получаем
, (3.4.24)
где
означает производную
. При выборе критериальной функции ошибки
можно получить численное решение (3.4.24) для оптимального размера шага на компьютере для произвольной заданной ФПВ
. Для среднеквадратичного критерия ошибки, кода
, Макс(I960) рассчитал оптимальный размер шага
и минимальное значение среднеквадратической ошибки, когда ФПВ
является гауссовской с нулевым средним и единичной дисперсией. Некоторые из этих результатов даны в табл. 3.4.2.
Таблица 3.4.2. Оптимальные размеры шага при равномерном квантовании гауссовских случайных величин
Число выходных уровней
|
Оптимальный размер шага 
|
Минимум СКО

|
(дБ)
|
2
|
1,596
|
0,3634
|
-4,4
|
4
|
0,9957
|
0,1188
|
-9,25
|
8
|
0,5860
|
0,3744
|
-14,27
|
16
|
0,3352
|
0,01154
|
-19,38
|
32
|
0,1881
|
0,00349
|
-24,57
|
Видим, что минимальная среднеквадратическая ошибка
уменьшается немного больше, чем на 5 дБ, при каждом удвоении числа уровней
. Следовательно, каждый бит, который используется равномерным квантователем с оптимальным размером числа
для гауссовского входного сигнала уменьшает искажение более чем на 5 дБ.
Если соблюдать условие, что квантователь равномерный, искажение можно дополнительно уменьшить. В этом случае мы выберем выходной уровень
, когда амплитуда входного сигнала находится в диапазоне
. Для квантования с
уровнями крайними точками являются
и
. Результирующее искажение
(3.4.25)
снова минимизируется путём оптимального выбора
и
.
Необходимые условия для минимальных искажений можно получить дифференцированием
по
и
. Результат такой оптимизации выражается двумя уравнениями:
,
, (3.4.26)
,
. (3.4.27)
Как частный случай мы снова рассмотрим минимизацию среднеквадратических значений искажений. В этом случае,
, и, следовательно, из (3.4.26) следует
,
, (3.4.28)
что является среднеарифметическим
и
. Соответствующие уравнения, определяющие
,
,
. (3.4.29)
Таким образом,
является центроидом области
между
и
. Эти уравнения могут быть решены численно для произвольных ФПВ
. Таблицы 3.4.3 и 3.4.4 дают результаты оптимизации Макса (1960) для оптимального четырёхуровневого и восьмиуровневого квантователя сигнала, распределённого по Гауссу с нулевым средним и единичной дисперсией.
Таблица 3.4.3. Оптимальный 4-уровневый квантователь для гауссовской случайной величины
Уровень 
|

|

|
1
|
-0,9816
|
-1,510
|
2
|
0,0
|
-0,4528
|
3
|
0,9816
|
0,4528
|
4
|

|
1,510
|

|
дБ
|
Таблица 3.4.4. Оптимальный 8-уровневый квантизатор для гауссовской случайной величины (Макс, 1960)
Уровень 
|

|

|
1
|
-1,748
|
-2,152
|
2
|
-1,050
|
-1,344
|
3
|
-0,5006
|
-0,7560
|
4
|
0
|
-0,2451
|
5
|
0,5006
|
0,2451
|
6
|
1,050
|
0,7560
|
7
|
1,748
|
1,344
|
8
|

|
2,152
|

|
дБ
|
В таблице 3.4.5 сравниваются минимальные среднеквадратические искажения для гауссовской амплитуды сигнала в равномерном и неравномерном квантователях. Из этой таблицы мы видим, что разница в характеристиках двух типов квантователей относительно мала для малых значений
(меньше чем 0,5 дБ для
), но она растёт с ростом
. Например: при
, неравномерный квантователь примерно на 1,5 дБ лучше равномерного.
Таблица 3.4.5. Сравнение оптимальных равномерного и неравномерного квантизаторов для гауссовской случайной величины (Макс, 1960; Паез и Глиссон, 1972)

(бит/отсчёт)
|

|
Равномерное (дБ)
|
Неравномерное (дБ)
|
1
|
-4,4
|
-4,4
|
2
|
-9,25
|
-9,30
|
3
|
-14,27
|
-14,62
|
4
|
-19,38
|
-20,22
|
5
|
-24,57
|
-26,02
|
6
|
-29,83
|
-31,89
|
7
|
-35,13
|
-37,81
|
Поучительно построить кривые зависимости минимальных искажений от битовой скорости
бит на отсчёт (на символ) источника для равномерного и неравномерного квантователей.
Эти кривые даны на рис. 3.4.2. Функциональную зависимость искажений
от битовой скорости
можно выразить как
- функцию искажение-скорость. Мы видим, что функция искажение-скорость для оптимального неравномерного квантователя лежит ниже, чем для равномерного квантователя. Поскольку квантователь превращает непрерывную амплитуду источника в дискретную, мы можем трактовать дискретные амплитуды как символы, скажем
с соответствующими вероятностями
. Если отсчёты сигнала амплитуды статистически независимы, то на выходе квантователя имеем дискретный источник без памяти, и, следовательно, его энтропия
. (3.4.30)

Рис. 3.4.2. Кривые зависимости искажение-скорость для гауссовского источника без памяти с дискретным временем
Для примера: оптимальный четырёхуровневый неравномерный квантователь для распределённой по Гауссу амплитуды приводит к вероятностям
для двух внешних уровней и
для двух внутренних уровней. В этом случае энтропия дискретного источника
бит/символ. Следовательно, при помощи энтропийного кодирования (кодирование Хаффмена) блоков выходных символов мы можем достичь минимальных искажений (-9,30 дБ) посредством 1,911 бит/символ вместо 2 бит/символ. Макс (1960) определил энтропию для дискретных символов источника после процесса квантования. Таблица 3.4.6 показывает значение энтропии при неравномерном квантовании. Зависимость
для этого случая также показана кривой на рис. 3.4.2 и обозначена как энтропийное кодирование.
Таблица 3.4.6. Энтропия выхода оптимального неравномерного квантователя гауссовской случайной величины (Макс, 1960)

(бит/отсчёт)
|
Энтропия
(бит/символ)
|
Искажения

|
1
|
1,0
|
-4,4
|
2
|
1,911
|
-9,30
|
3
|
2,825
|
-14,62
|
4
|
3,765
|
-20,22
|
5
|
4,730
|
-26,02
|
Из этого обсуждения мы заключаем, что качество квантователя можно анализировать, когда известна ФПВ непрерывного выхода источника. Оптимальный квантователь с
уровнями обеспечивает минимальное искажение
, где
бит/отсчёт. Такого уровня искажений можно достичь простым представлением каждого квантованного отсчёта
битами. Однако возможно более эффективное кодирование. Дискретные выходы квантователя характеризуются рядом вероятностей
, которые можно использовать для расчёта эффективных неравномерных кодов для выхода источника (энтропийное кодирование). Эффективность какого-либо метода кодирования можно сравнить с функцией искажение-скорость или, что эквивалентно, с функцией скорость-искажение для дискретного времени и непрерывных амплитуд источника, характеризуемого данной ФПВ. Если мы сравним характеристики оптимального неравномерного квантователя с функцией искажение-скорость, мы найдём, например, что для искажения в -26 дБ энтропийное кодирование требует скорость на 0,4 бит/отсчёт больше, чем минимальная скорость, даваемая (3.4.8), а простое блоковое кодирование каждого символа требует скорость на 0,68 бит/отсчёт больше, чем минимальная скорость. Мы также видим, что функция искажение-скорость для оптимального равномерного и неравномерного квантователей гауссовского источника асимптотически приближается к наклону -6 дБ/бит для больших
.