3.3.3. Сходимость алгоритма МНККлючевым вопросом при анализе любого стохастического алгоритма является вопрос сходимости. Свойства сходимости алгоритма МНК широко исследовались на различных уровнях математической строгости. Начнем с записи разностного уравнения, удовлетворяющего следующему условию для вектора ошибки Отметим, что теперь Для математического ожидания величины (3.74) имеем: поскольку Далее мы хотим вычислить ковариационную матрицу вектора ошибки
Чтобы понять эволюцию ковариационной матрицы ошибки, найдем математическое ожидание обеих частей уравнения (3.76). Отметим, что
В ранее опубликованных работах по сходимости МНК [339, 340] допускалось, что (3.77) можно заменить на:
Более точное вычисление (3.77) недавно было проведено в работе [152]; его мы кратко рассмотрим здесь. Выведем сначала асимптотические свойства алгоритма МНК, которые следуют из (3.78), как было показано в работах [339, 340]. Для этого отметим, что ковариационная матрица ошибки в (3.78) точно такая же, как если бы вектор которое просто является «шумовой» версией (3.75). Умножим (3.79) слева на Так как элементы Умножив (3.78) слева и справа на Статистические характеристики Для сходящегося алгоритма есть основания полагать, что тогда окончательно получаем или
Уравнения (3.84) служат для определения влияния асимптотических шумовых эффектов на коэффициенты фильтра в алгоритме методом наименьших квадратов. Далее мы воспользуемся этим уравнением для вычисления асимптотической дисперсии сигнала
|