5.4. Проверка сложных гипотез

Часто задача проверки гипотез намного усложняется вследствие того, что условные плотности вероятности выборки при рассматриваемых гипотезах зависят от параметра , значение которого при получении выборки неизвестно. Если неизвестный параметр  является случайной величиной, то будем считать, что заданы плотности вероятности  и .

В этом случае, воспользовавшись безусловными плотностями вероятности выборки, можно вычислить отношение правдоподобия:

;              (5.98)

или

                       (5.99)

Отношение правдоподобия здесь вычисляется после интегрирования по . Далее задача проверки сложных гипотез решается так же, как и задача проверки простых гипотез.

Если  является случайной величиной, но плотность вероятности этой величины неизвестна, или если этот параметр вообще не является случайным, то воспользоваться ф-лой (5.99) не удается. Один из возможных подходов к задаче проверки сложных гипотез в подобных случаях состоит в следующем. Вместо неизвестного значения параметра  используются оценки, вычисленные по той же выборке. Одна оценка вычисляется в предположении, что справедлива гипотеза ,  другая — в предположении, что справедлива гипотеза . Подходящими для этого являются оценки максимального правдоподобия, которые позволяют ввести обобщенное отношение правдоподобия

                          (5.100)

Это отношение может быть использовано для построения правила выбора решения. В следующей главе будет дано обоснование целесообразности использования именно оценки максимального правдоподобия.

При проверке сложных гипотез желательно использовать равномерно наиболее мощные правила [118]. Наиболее мощное правило проверки простой гипотезы  против простой альтернативы   обеспечивает максимально возможное значение вероятности отвержения гипотезы , когда она на самом деле не справедлива (мощность правила равна ), при заданном значении вероятности неправильного выбора гипотезы  (уровень значимости ). Равномерно наиболее мощное правило обеспечивает наибольшую мощность относительно каждой допустимой альтернативной гипотезы . Для того чтобы правило выбора решения было равномерно наиболее мощным, необходимо, чтобы отношение правдоподобия не зависело от значения параметра ; такие правила существуют не всегда.

Если отношение правдоподобия зависит от параметра , то правило выбора решения, основывающееся на отношении правдоподобия, использовать невозможно. Такое правило (в том числе и правило, в котором используется оценка максимального правдоподобия параметра ) не может быть равномерно наиболее мощным.

Рассмотрим простой пример, который позволит проиллюстрировать основные понятия, используемые при анализе проблемы проверки сложных гипотез.

Пример 5.3. Рассмотрим задачу проверки гипотез

Шум  будем считать нормальным, так что .

Если параметр  -  случайная величина с нулевым средним значением и нормальной плотностью вероятности , то отношение правдоподобия (5.99) принимает вид

.

Выполнив интегрирование и вычислив логарифм обеих частей этого равенства, можно записать следующее выражение для правила выбора решения» основанного на отношении правдоподобия при одном наблюдении :

.

Рассмотренная задача эквивалентна задаче проверки простой гипотезы против простой альтернативы. Ее можно описать следующим образом

Здесь можно воспользоваться результатами, полученными для более общего случая [см. ф-лу  (5. 50)].

Рассмотрим теперь случай, когда параметр  либо не является случайной величиной, либо случаен, но его плотность вероятности неизвестна. Воспользуемся отношением правдоподобия (5.100) с очевидной заменой .

Поскольку параметр  входит только в числитель дроби, стоящей в правой части ф-лы (5.100), то оценка максимального правдоподобия для  должна вычисляться только в предположении справедливости гипотезы . Это означает, что в качестве оценки для параметра  при наблюденном значении  должно выбираться то значение переменной , при котором достигается

.

Очевидно, что значение оценки . Обобщенное отношение правдоподобия и правило выбора решения <при этом принимают вид

.

Ранее уже отмечалось, что наиболее мощное правило проверки гипотезы против альтернативы  максимизирует вероятность правильного обнаружения  при фиксированном значении уровня значимости . Правило будет равномерно наиболее мощным, если оно является наиболее мощным относительно каждой допустимой гипотезы . Если параметр  не является случайным и его значение неизвестно, но больше нуля, то можно попытаться применить правило вида .

Аналогично, если  принимает только отрицательные значения, то представляется вполне разумным применить правило типа .

Если известно, что параметр  принимает только положительные значения, то

;

.

Если задать уровень значимости , то тем самым будет задано и значение порога . Вероятность правильного обнаружения  при этом оказывается максимально возможной при любом значении . Таким образом, если  принимает только положительные значения, то рассматриваемое правило выбора решения является равномерно наиболее мощным. Аналогичным образом можно показать, что правило выбора решения  является равномерно наиболее мощным, если параметр  принимает только отрицательные значения. Для этого правила

,

.

Если же знак параметра  неизвестен, т е если  при получении наблюдений может принимать как отрицательные, так и положительные значения, то равномерно наиболее мощного правила не существует.

Таким образом, в данном примере рассмотрены три различных подхода при построении правила выбора решения. При первом подходе предполагалось, что параметр  - случайный и его плотность вероятности известна. При втором подходе этот параметр считается неслучайным и используется обобщенное отношение правдоподобия. Наконец, если известно, что параметр  принимает только положительные или только отрицательные значения, то можно указать равномерно наиболее мощное правило.

Нельзя, конечно, ожидать что рассмотренные правила обеспечат достаточно малые вероятности ошибок различения гипотез, поскольку решение выносится всего лишь по одному единственному наблюдению Если имеется возможность использовать выборку объема  с независимыми элементами, а значение параметра  неизвестно, то условные плотности выборки при разных гипотезах имеют вид

;

.

Значение переменной , при котором последнее выражение принимает наибольшее значение, совпадает с выборочным средним

.

Правило выбора решения, основывающееся на статистике обобщенного отношения правдоподобия (5.100), принимает вид

.

Это правило можно записать несколько иначе, используя достаточную статистику

.

Можно построить рабочие характеристики этого правила. Основываясь на полученной достаточной статистике, можно найти байесовское правило проверки рассматриваемых сложных гипотез, которое в данном случае будет аналогично правилу проверки двух простых гипотез.