5.4.1. Метод Шэнкса

Один из первых методов проектирования двумерных БИХ-фильтров был предложен Шэнксом и др. [11]. Чтобы избежать описанных выше трудностей, связанных с нелинейностью, авторы минимизировали модифицированную функцию ошибки. Если считать, что  представляет собой двумерный Фурье-спектр сигнала ошибки , то

.                                          (5.81)

Спектр модифицированной ошибки  получается путем умножения  на :

.             (5.82)

Это соответствует сигналу ошибки

,              (5.83)

который линеен относительно коэффициентов фильтра .

Суммарная ошибка  получается суммированием квадратов значений модифицированной ошибки

.                                                                                           (5.84)

Шэнкс минимизировал  следующим образом. Прежде всего он принял, что входной сигнал  является дельта-функцией . Затем, поскольку коэффициенты  в числителе равны нулю вне прямоугольника , , выражение (5.83) принимает простой вид

 для  или .    (5.85)

Теперь можно подставить этот результат в (5.84), при условии что суммирование в (5.84) выполняется по области , показанной на рис. 5.24. (Верхние пределы  и  указывают пределы суммирования при вычислениях.)

Если теперь продифференцировать  по коэффициентам знаменателя , подставив, как и выше , то получится следующая система линейных уравнений:

для , , но ,                     (5.86)

где функция  имеет вид

,                       (5.87)

а суммирование выполняется по области , показанной на рис. 5.24. Поскольку , эти выражения можно переписать с тем, чтобы получить систему из  нормальных уравнений с  неизвестными:

для , , но .                        (5.88)

Рис. 5.24. Область , по которой выполняется суммирование квадрата модифицированной ошибки в методе Шэнкса.

Решение уравнений (5.88) дает нам коэффициенты знаменателя . Чтобы найти коэффициенты числителя , можно воспользоваться тем, что

.                     (5.89)

Поскольку  и , то можно записать

.                                        (5.90)

В общем случае протяженность массива , найденного таким образом, будет превышать протяженность прямоугольника , . В этом случае протяженность массива  можно ограничить с помощью окна до нужной величины. Если требуемый отклик  можно достаточно хорошо аппроксимировать двумерным БИХ-фильтром, то описанная методика дает хорошие результаты [11].

Основное достоинство метода Шэнкса заключается в том, что для нахождения коэффициентов прямой формы реализации требуется лишь решить систему линейных уравнений. С другой стороны, этот способ минимизирует не истинное, как требуется, а модифицированное среднеквадратичное значение разности  и . Более того, синтезированные этим способом БИХ-фильтры могут оказаться неустойчивыми.