§ 9. Байесов метод восстановления нормального распределения

К сожалению, восстановить методом Байеса распределение вероятностей в многомерном случае не удается. Как уже указывалось, это связано с тем, что не удается вычислить аналитически соответствующие кратные интегралы. Не удается аналитически получить байесову оценку даже для случая, когда вектор имеет размерность 2.

Ниже мы покажем, что при минимальной априорной информации байесова оценка плотности нормального распределения случайной величины имеет вид

, .

Интересно, что эта оценка плотности нормального распределения оказалась не принадлежащей классу нормальных. Однако читатель легко может убедиться, что при справедливо

Использование более точных байесовых оценок плотности для построения дискриминантных функций приводит к тому, что дискриминантная функция оказывается не квадратичной, а более сложного вида.

Сравним дискриминантные функции, полученные для третьего варианта постановки на основе байесовых оценок и оценок максимума правдоподобия:

;

где , – соответственно эмпирическая оценка математического ожидания -й координаты векторов первого и второго классов, , – эмпирическая оценка дисперсии -й координаты векторов первого и второго классов. Эти функции различаются тем больше, чем меньше объем выборки. Однако в пределе при

Итак, пусть известно, что величина распределена по нормальному закону

Кроме того, пусть априорное распределение параметров и подчиняется равномерному закону на интервале и . Функция правдоподобия в этом случае будет равна

Байесова оценка плотности распределения вероятностей равна

. (3.21)

Мы будем считать, что интервалы и столь велики, что пределы интегрирования в (3.21) могут быть расширены до и . Это во всяком случае можно сделать, если (так как при интегралы в выражении (3.21) сходятся).