§ 3.12. Вероятностная сходимость и устойчивость

В алгоритмы адаптации входит градиент реализации  или его оценки, которые зависят от случайного процесса . Следовательно, векторы  также являются случайными и для них непосредственно неприменимо обычное понятие сходимости, хорошо знакомое нам из курсов математического анализа и использованное в § 2.15. Поэтому необходимо привлечь новые понятия сходимости, понимаемые не в обычном, а в вероятностном смысле.

Различают три основных вида такой сходимости: сходимость по вероятности, сходимость в среднеквадратическом и сходимость почти наверное.

Случайный вектор  сходится по вероятности к  при , если вероятность того, что при любом  норма  превышает , стремится к нулю, или, кратко, если

.         (3.29)

Сходимость по вероятности, конечно, не требует, чтобы каждая последовательность случайных векторов  сходилась к  в обычном смысле. Более того, ни для какого вектора мы не можем утверждать, что имеет место обычная сходимость.

Случайный вектор  сходится к  в среднеквадратическом при , если математическое ожидание квадрата нормы  стремится к нулю, т. е. если

.            (3.30)

Сходимость в среднеквадратическом влечет за собой сходимость по вероятности, но также не предполагает для каждого случайного вектора  обычной сходимости. Сходимость в среднеквадратическом связана с исследованием момента второго порядка, который вычисляется достаточно просто, и, кроме того, она имеет ясный энергетический смысл. Эти обстоятельства объясняют сравнительно широкое распространение в физике именно такого понятия сходимости. Но сам факт, что в обоих типах сходимости вероятность того, что данный случайный вектор  сходится к  в обычном смысле, равна нулю, вызывает иногда неудовлетворенность. Ведь мы всегда оперируем с градиентом реализации  и соответствующим ему случайным вектором , и желательно, чтобы предел существовал именно для той последовательности случайного вектора , которую мы сейчас наблюдаем, а не для семейства последовательности случайных векторов , соответствующих семейству реализаций , которые мы, возможно, никогда и не будем наблюдать.

Это желание может осуществиться, если привлечь понятие сходимости почти наверное, или, что то же самое, сходимости с вероятностью единица.

Так как  — случайный вектор, то и сходимость последовательности  к  в обычном смысле можно рассматривать как случайное событие. Последовательность случайных векторов  сходится при  к  почти наверное, или с вероятностью единица, если вероятность обычной сходимости  к  равна единице, т. е. если

                      (3.31)

Отсюда следует, что, пренебрегая совокупностью реализаций случайных векторов, имеющих общую вероятность, равную нулю, мы имеем обычную сходимость. Конечно, скорость сходимости при этом зависит от реализации и имеет случайный характер.

Сходимость алгоритмов адаптации эквивалентна устойчивости систем, описываемых стохастическими разностными или дифференциальными уравнениями. Устойчивость этих систем нужно понимать в вероятностном смысле: по вероятности, в среднеквадратическом и почти наверное (или с вероятностью единица). Вероятностная устойчивость — сравнительно новый раздел теории устойчивости, который сейчас интенсивно разрабатывается.