§ 5. Основная лемма

В конце § 2, было сказано, что основная идея, на которой строятся условия равномерной сходимости частот к вероятностям, состоит в том, что бесконечная система событий  заменяется конечной подсистемой, состоящей из таких событий, которые различимы на конечной выборке. Для того чтобы сделать такой переход корректным, оказывается необходимым заменить исходную проблему равномерной близости частот событий к их вероятностям проблемой равномерной близости частот в двух следующих друг за другом выборках одинаковой длины.

Оказывается, что равномерная сходимость к нулю разности частот в двух полувыборках является необходимой и достаточной для равномерной сходимости частот к вероятностям и из оценок скорости одной сходимости следуют оценки для другой.

Итак, пусть взята выборка длины :

и подсчитаны частоты выпадения события  на первой полувыборке  и второй полувыборке . Обозначим соответственно частоты через  и  и рассмотрим отклонение этих величин:

.

Нас будет интересовать максимальное отклонение частот по всем событиям класса :

.

Напомним, что через  мы обозначили

.

Далее будем полагать, что как , так и  – измеримые функции.

Основная лемма. Распределения величин  и  связаны следующими соотношениями:

а)      , если только ;

б)     

Доказательство. Доказательство утверждения а) построено по следующей схеме. Представим себе, что полувыборки  и  берутся последовательно и независимо. Допустим, что первая полувыборка оказалась такой, что

.                   (10.16)

Это значит, что в классе  имеется событие  такое, что

.

На второй полувыборке будем следить за отклонением частоты от вероятности лишь для этого фиксированного события . Так как нас интересует всего одно событие, то можно воспользоваться обычным законом больших чисел. Поэтому при достаточно большом  с достаточно высокой вероятностью частота  близка к вероятности :

и, следовательно,

 и .             (10.17)

Таким образом, условная вероятность (10.17) при условии (10.16) становится достаточно большой при соответствующих . Это и позволяет доказать утверждение а). Перейдем к формальному доказательству.

По определению

,

где

.

Учитывая, что пространство  выборок длины  есть прямое произведение  и  полувыборок длины , согласно теореме Фуббини [36] для любой измеримой функции

.

Поэтому имеем

(во внутреннем интеграле первая полувыборка фиксируется). Обозначим через  событие пространства

и, ограничивая интегрирование, получим

.                     (10.18)

Оценим внутренний интеграл правой части неравенства, обозначив его через . Здесь  фиксировано и таково, что . Следовательно, существует  такое, что

.

Тогда

.

Пусть, например,

(аналогично рассматривается случай ). Тогда для выполнения условия

достаточно потребовать, чтобы выполнялось соотношение

,

откуда

.

Как известно, последняя сумма превосходит , если только . Возвращаясь к (10.18), получим для :

,

что и требуется.

Утверждение б) непосредственно следует из того, что если

,

то либо

,

либо

.

Учитывая, что при этом полувыборки  и  независимы, получаем:

и поэтому

.

Лемма доказана.