10.2.2. Критерий минимума среднеквадратичной ошибки (СКО)
При использовании критерия минимума СКО, взвешивающие коэффициенты ячеек
эквалайзера подстраиваются так, чтобы минимизировать средний квадрат ошибки
, (10.2.24)
где
- информационный символ, переданный на
-ом сигнальном интервале, a
- оценка этого символа на выходе эквалайзера, определяемая (10.2.1). Если информационные символы
комплексные, то показатель качества при СКО критерия, обозначаемый
, определяется так
. (10.2.25)
С другой стороны, когда информационные символы вещественные, показатель качества просто равен квадрату вещественной величины
. В любом случае,
является квадратичнйй функцией коэффициентов эквалайзера
. При дальнейшем обсуждении мы рассмотрим минимизацию комплексной формы, даваемой (10.2.25).
Эквалайзер неограниченной длины. Сначала определим взвешивающие коэффициенты ячеек, которые минимизируют
, когда эквалайзер имеет неограниченное число ячеек. В этом случае, оценка
определяется так
(10.2.26)
Подстановка (10.2.26) в выражение для
, определяемая (10.2.25), и расширение результата приводит к квадратичной функции от коэффициентов
. Эту функцию можно легко минимизировать по
посредством решения системы (неограниченной) линейных уравнений для
. Альтернативно, систему линейных уравнений можно получить путём использования принципа ортогональности при среднеквадратичном оценивании. Это значит, мы выбираем коэффициенты
такие, что ошибка
ортогональна сигнальной
последовательности
для
. То есть
(10.2.27)
Подстановка
в (10.2.27) даёт

или, что эквивалентно,
. (10.2.28)
Чтобы вычислить моменты в (10.2.28), мы используем выражение для
даваемое (10.1.16). Таким образом, получим
(10.2.29)
и
(10.2.30)
Теперь, если подставим (10.2.29) и (10.2.30) в (10.2.28) и возьмём
-преобразование от обеих частей результирующего уравнения, мы находим
. (10.2.31)
Следовательно, передаточная функция эквалайзера, основанного на критерии минимума СКО, равна
. (10.2.32)
Если обеляющий фильтр включён в
, мы получаем эквивалентный эквалайзер с передаточной функцией
. (10.2.33)
Видим, что единственная разница между этим выражением для
и тем, которое базируется на критерии пикового искажения - это спектральная плотность шума
, которая появилась в (10.2.33), Если
очень мало по сравнению с сигналом, коэффициенты, которые минимизируют пиковые искажения
приближённо равны коэффициентам, которые минимизируют по СКО показатель качества
. Это значит, что в пределе, когда
, два критерия дают одинаковое решение для взвешивающих коэффициентов. Следовательно, когда
, минимизация СКО ведёт к полному исключению МСИ. С другой стороны, это не так, когда
. В общем, когда
, оба критерия дают остаточное МСИ и аддитивный шум на выходе эквалайзера.
Меру остаточного МСИ и аддитивного шума на выходе эквалайзера можно получить расчётом минимальной величины
, обозначаемую
, когда передаточная функция 
эквалайзера определена (10.2.32). Поскольку
и поскольку
с учётом условия ортогональности (10.2.27), следует
. (10.2.34)
Эта частная форма для
не очень информативна. Больше понимания зависимости качества эквалайзера от канальных характеристик можно получить, если суммы в (10.2.34) преобразовать в частотную область. Это можно выполнить, заметив, что сумма в (10.2.34) является свёрткой
и
, вычисленной при нулевом сдвиге. Так, если через
обозначить свёртку этих последовательностей, то сумма в (10.2.34) просто равна
. Поскольку
- преобразование последовательности
равно
, (10.2.35)
то слагаемое
равно
. (10.2.36)
Контурный интеграл в (10.2.36) можно преобразовать в эквивалентный линейный интеграл путём замены переменной
. В результате этой замены получаем
. (10.2.37)
Наконец, подставив (10.2.37) в сумму (10.2.34), получаем желательное выражение для минимума СКО в виде
(10.2.38)
В отсутствие МСИ
и, следовательно,
. (10.2.39)
Видим, что
. Далее, соотношение между выходным (нормированного по энергии сигнала) ОСШ
и
выглядит так
.
Более существенно то, что соотношение
и
также имеет силу, когда имеется остаточная МСИ в дополнении к шуму на выходе эквалайзера.
Эквалайзер ограниченной длины. Теперь вернём наше внимание к случаю, когда длительность импульсной характеристики трансверсального эквалайзера простирается на ограниченном временном интервале, т.е. эквалайзер имеет конечную память или ограниченную длину. Выход эквалайзера на
-м сигнальном интервале равен
СКО эквалайзера с
ячейками, обозначаемый
, равен
Минимизация
по взвешивающим коэффициентам ячеек
или, что эквивалентно, требуя, чтобы ошибка
была бы ортогональна сигнальным отсчётам
,
, приводит к следующей системе уравнений:
где
Удобно выразить систему линейных уравнений в матричной форме, т.е.
где
означает вектор столбец
взвешивающих значений кодовых ячеек,
означает
матрицу ковариаций Эрмита с элементами
; а
мерный вектор столбец с элементами
. Решение (10.2.46) можно записать в виде
Таким образом, решение для
включает в себя обращение матрицы
. Оптимальные взвешивающие коэффициенты ячеек, даваемые (10.2.47), минимизируют показатель качества
, что приводит к минимальной величине 
где
определяет транспонированный вектор столбец
.
можно использовать в (10.2.40) для вычисления ОСШ линейного эквивалента с
коэффициентами ячеек.