5.5. Решетчатый алгоритм рекурсивного метода наименьших квадратов
Решетчатый алгоритм рекурсивного метода наименьших квадратов (РНК) позволяет производить корректировку точного решения, полученного методом наименьших квадратов, для каждой вновь наблюдаемой выборки данных. В данном методе адаптивного оценивания используются свойства решетчатого фильтра для эффективного осуществления адаптации. Алгоритм РНК подобен описанным в предыдущем разделе градиентным методам оценивания, за исключением того, что в нем вычисляются оптимальные весовые коэффициенты. Алгоритм РНК рассматривается в данном разделе как обобщение алгоритма Левинсона на решение нормального уравнения.
Решение, полученное методом наименьших квадратов, применительно к задаче линейного моделирования можно свести к простой системе линейных уравнений, называемых нормальными уравнениями Юле – Уокера (см. разд. 3.2). Эти уравнения, включающие обращение ковариационной матрицы, широко изучались с целью уменьшить объем вычислений, гарантировать устойчивость моделей и иметь возможность обрабатывать нестационарные процессы. Здесь задача линейного моделирования представлена для случая линейного устройства предсказания (линейного предиктора).
Линейная модель предсказания допускает, что выборку данных во время
,
, можно аппроксимировать величиной
, т. е. взвешенной суммой предшествующих выборок данных.
Для линейной функции предсказания
- го порядка имеем:
(5.24)
где
- коэффициенты. Они должны выбираться такими, чтобы минимизировать среднеквадратичную ошибку оценки
относительно истинного значения
. Ковариационной матрицей
-го порядка процесса
будет матрица
, составленная из элементов
:


(5.25)
Чтобы минимизировать среднеквадратичную ошибку предсказания, необходимо для функции предсказания выбрать такие коэффициенты
, которые будут удовлетворять уравнению (5.26), называемому нормальным уравнением:
(5.26)
где
- минимальная ошибка. До тех пор, пока процесс детерминированный, существует единственное решение уравнения (5.26).
Вообще говоря, для линейной модели
- го порядка решение нормального уравнения включает обращение ковариационной матрицы размерности
. При использовании стандартных методов обращения матриц, например исключения Гаусса, требуется выполнить
вычислений (умножений). Однако для стационарных случайных процессов ковариационная матрица является матрицей Теплица.

С помощью алгоритма Левинсона нормальное уравнение в форме теплица можно решить, выполнив
вычислений. Алгоритм Левинсона представляет собой рекурсивный метод, в котором, с целью получения решения для функции предсказания
- го порядка, используется решение для функции предсказания
- го порядка. Этот алгоритм выполняет ортогонализацию сигнала, как описано в разд. 5.3. Коэффициенты отражения связаны с коэффициентами функции предсказания и получаются как побочный результат алгоритма Левинсона. В случае Теплица можно непосредственно определить коэффициенты отражения без использования коэффициентов функции предсказания [192]. Здесь уже применяется алгоритм Шура. Если ковариационная последовательность
строится в соответствии с увеличением порядка решетчатого фильтра, то коэффициент отражения в каждом каскаде можно определить как отношение прямой ошибки к обратной ошибке на входе данного каскада [234].