2.4.1. Линейный взвешенный сумматор

На рис. 2.7. представлена структура линейного взвешенного сумматора (linear combiner). Его выход образуется сигналом , который представляет собой линейную комбинацию всех входов , . Введем обозначение

.              (2.22)

Конкретные компоненты вектора  умножаются на компоненты вектора весов

.             (2.23)

В результате выходной сигнал линейного взвешенного сумматора описывается формулой

.                     (2.24)

Выход линейного взвешенного сумматора  будет использоваться в качестве реализации некоторого сигнала , называемого эталонным или заданным сигналом. В результате сравнения реализации  с сигналом  получаем погрешность реализации

.              (2.25)

Рис. 2.7. Линейный взвешенный сумматор.

Веса линейного взвешенного сумматора  будут подбираться так, чтобы минимизировать меру погрешности

.                  (2.26)

Предположим, что входной сигнал  и эталонный сигнал  - это реализации дискретных стохастических процессов  и  совместно стационарных в широком смысле, т.е.

1)  - стационарный в широком смысле стохастический процесс;

2)  - стационарный в широком смысле стохастический процесс;

3) функция взаимной корреляции процессов  и  зависит только от значения .

Мера погрешности (2.26) называется среднеквадратичной погрешностью реализации. Обозначим  вектор весов, минимизирующих погрешность (2.26). Представленная на рис. 2.7 система, веса которой принимают значения , называется пространственным фильтром Винера (spatial filter). Процесс фильтрации заключается в умножении входов  на соответствующее им множество весов  последующим суммированием отдельных произведений для получения реализации  эталонного сигнала . Покажем, что среднеквадратичная погрешность реализации (2.26) - это функция второго порядка вектора весов .

Поскольку

,               (2.27)

то формула (2.26) принимает вид

.               (2.28)

В последнем слагаемом выражения (2.28) можно выделить матрицу автокорреляции компонентов входного вектора

,  (2.29)

а также вектор взаимной корреляции между сигналами  и

.                 (2.30)

С использованием обозначений (2.29) и (2.30) среднеквадратичная погрешность реализации (2.28) может быть записана в виде

.             (2.31)

Из выражения (2.31) следует, что среднеквадратичная погрешность реализации  - это функция второго порядка вектора весов . С геометрической точки зрения  представляется гиперпараболоидом, имеющим единственный глобальный экстремум . Этот гиперпараболоид называется поверхностью среднеквадратичной погрешности. Рис. 2.8 представляет фрагмент типовой поверхности среднеквадратичной погрешности для  (в этом случае это параболоид).

Рис. 2.8. Поверхность среднеквадратичной погрешности.

Поверхность среднеквадратичной погрешности, описываемая уравнением (2.31), имеет единственный глобальный экстремум , достигаемый при оптимальных значениях весов . Вычисление оптимальных значений весов сводится к определению вектора градиента  функции  и приравниванию полученного результата к нулю:

,               (2.32)

где  есть -мерный нулевой вектор. Допустим, что гессиан

                    (2.33)

это положительно определенная матрица. В этом случае вектор весов  минимизирует среднеквадратичную погрешность реализации (2.31). Из уравнения (2.32) следует, что для этого вектора справедливо равенство

.                    (2.34)

Равенство (2.34) называется нормальным уравнением. Если , то его решением оказывается вектор

.                (2.35)

При  погрешность принимает минимальное значение, обозначаемое  и равное

.                      (2.36)

Если подставить равенство (2.34) в выражение (2.36), то получим формулу для расчета минимальной среднеквадратичной погрешности реализации

.                   (2.37)

Для нахождения оптимального вектора весов , удовлетворяющего нормальному уравнению (2.34), требуется инвертировать матрицу автокорреляции . Вместо этого можно использовать метод наискорейшего спуска (см., например, [2, 6]), который широко применяется в теории оптимизации. В этом методе предусматривается итеративный расчет последовательных приближений оптимального вектора . Обозначим  приближение, рассчитанное на -й итерации

.                        (2.38)

Очередные коррекции компонентов вектора весов  должны производиться в направлении, противоположном знаку компонентов вектора градиента

              (2.39)

Алгоритм наискорейшего спуска можно представить в виде

.                 (2.40)

При подстановке формулы (2.32) в зависимость (2.40) получаем рекурсию

,                    (2.41)

где константа  определяет величину шага коррекции.

Можно показать (см., например, [8, 19]), что алгоритм наискорейшего спуска (2.41) сходится, т.е.

,                     (2.42)

если шаг коррекции  лежит в пределах

,            (2.43)

где  - это наибольшее собственное значение матрицы автокорреляции .

Кроме того, доказано, что скорость сходимости алгоритма наискорейшего спуска зависит от отношения наименьшего и наибольшего собственных значений матрицы . Если

,                   (2.44)

то алгоритм наискорейшего спуска сходится быстро. Если же

,                  (2.45)

то алгоритм наискорейшего спуска сходится медленно.