3.2.5. Асимптотическая точность оценки методом наименьших квадратов

Устройство оценки по методу наименьших квадратов [см. формулу (3.7)] принадлежит к более общему классу устройств оценки с предсказанием ошибок, которые интенсивно изучались в работах по идентификации систем. Теория устройств оценки с предсказанием ошибок имеет много приложений в анализе адаптивных фильтров.

Здесь мы рассматриваем один специфический результат, связанный с асимптотической  точностью таких устройств оценки. Этот результат основан на более общей теореме, точную формулировку и доказательство которой можно найти в работах [197, 198]. Применительно к проблеме, изучаемой в данной главе, теорему можно сформулировать следующим образом:

Теорема. При нежестких условиях стационарности и регулярности для устройства оценки по методу наименьших квадратов  [см. формулу (3.37)] характерно асимптотически нормальное распределение, так что мы имеем:

           (3.38)

где

                   (3.39)

- дисперсия ошибки предсказания),          (3.40)

  определяется из (3.32), а  - ковариационная матрица данных (3.28). Из этой теоремы следует, что для достаточно больших значений  ковариационная матрица вектора ошибки оценивания параметров

                           (3.41)

приблизительно задается выражением:

      (3.42)

Следовательно, эта теорема служит полезным критерием точности для устройства оценивания, основанного на протяженных последовательностях данных [под точностью мы здесь понимаем отклонение  от его предельного значения ]. Для коротких последовательностей данных ковариация  может быть значительно больше, чем предсказанная формулой (3.42). таким образом, можно рассматривать матрицу , как нижнюю границу дисперсии ошибки оценивания.