5.5. Решетчатый алгоритм рекурсивного метода наименьших квадратов

Решетчатый алгоритм рекурсивного метода наименьших квадратов (РНК) позволяет производить корректировку точного решения, полученного методом наименьших квадратов, для каждой вновь наблюдаемой выборки данных. В данном методе адаптивного оценивания используются свойства решетчатого фильтра для эффективного осуществления адаптации. Алгоритм РНК подобен описанным в предыдущем разделе градиентным методам оценивания, за исключением того, что в нем вычисляются оптимальные весовые коэффициенты. Алгоритм РНК рассматривается в данном разделе как обобщение алгоритма Левинсона на решение нормального уравнения.

Решение, полученное методом наименьших квадратов, применительно к задаче линейного моделирования можно свести к простой системе линейных уравнений, называемых нормальными уравнениями Юле – Уокера (см. разд. 3.2). Эти уравнения, включающие обращение ковариационной матрицы, широко изучались с целью уменьшить объем вычислений, гарантировать устойчивость моделей и иметь возможность обрабатывать нестационарные процессы. Здесь задача линейного моделирования представлена для случая линейного устройства предсказания (линейного предиктора).

Линейная модель предсказания допускает, что выборку данных во время , , можно аппроксимировать величиной , т. е. взвешенной суммой предшествующих выборок данных.

Для линейной функции предсказания - го порядка имеем:

        (5.24)

где  - коэффициенты. Они должны выбираться такими, чтобы минимизировать среднеквадратичную ошибку оценки  относительно истинного значения . Ковариационной матрицей -го порядка процесса  будет матрица , составленная из элементов :

                (5.25)

Чтобы минимизировать среднеквадратичную ошибку предсказания, необходимо для функции предсказания выбрать такие коэффициенты , которые будут удовлетворять уравнению (5.26), называемому нормальным уравнением:

             (5.26)

где - минимальная ошибка. До тех пор, пока процесс детерминированный, существует единственное решение уравнения (5.26).

Вообще говоря, для линейной модели - го порядка решение нормального уравнения включает обращение ковариационной матрицы размерности . При использовании стандартных методов обращения матриц, например исключения Гаусса, требуется выполнить  вычислений (умножений). Однако для стационарных случайных процессов ковариационная матрица является матрицей Теплица.

С помощью алгоритма Левинсона нормальное уравнение в форме теплица можно решить, выполнив  вычислений. Алгоритм Левинсона представляет собой рекурсивный метод, в котором, с целью получения решения для функции предсказания - го порядка, используется решение для функции предсказания - го порядка. Этот алгоритм выполняет ортогонализацию сигнала, как описано в разд. 5.3. Коэффициенты отражения связаны с коэффициентами функции предсказания и получаются как побочный результат алгоритма Левинсона. В случае Теплица можно непосредственно определить коэффициенты отражения без использования коэффициентов функции предсказания [192]. Здесь уже применяется алгоритм Шура. Если ковариационная последовательность  строится в соответствии с увеличением порядка решетчатого фильтра, то коэффициент отражения в каждом каскаде можно определить как отношение прямой ошибки к обратной ошибке на входе данного каскада [234].