§ 3. Метод максимума правдоподобия

Метод максимума правдоподобия в задаче о восстановлении плотности распределения вероятностей в классе функций  связан с исследованием так называемой функции правдоподобия Фишера. Функция правдоподобия задается на выборке  и имеет вид

.                      (3.4)

Если величины  дискретны, то функция  для каждого  определяет вероятность случайной и независимой выборки образовать последовательность . Если же  – непрерывные величины, то функция  может быть истолкована как плотность совместного распределения величин .

Таким образом, каждой выборке может быть поставлена в соответствие функция правдоподобия (рис. 5).

Рис. 5.

Метод максимума правдоподобия состоит в том, чтобы в качестве восстановленного значения параметра  выбирать то, которое доставляет максимум функции правдоподобия. Наряду с функцией  принято рассматривать функцию

.               (3.4')

Максимум функций (3.4) и (3.4') совпадают и, следовательно, оценки максимума правдоподобия могут быть найдены как корни уравнения

   ,

или уравнения

.

Теория метода призвана оцепить, насколько «хорош» предлагаемый способ оценивания параметров. Эта теория достаточно полно разработана. Подробное исследование свойств оценки максимума правдоподобия можно найти в работах [2, 62].

Основное содержание теории заключается в том, что для определенных функций  (которым заведомо принадлежат оба класса рассматриваемых распределений вероятностей) метод максимума правдоподобия обеспечивает асимптотическую несмещенность и асимптотическую эффективность оценки.