§ 1.2. Критерии оптимальности

Любая задача оптимизации может быть сведена к выбору лучшего в некотором смысле варианта из большого числа вариантов. Каждый из этих вариантов характеризуется набором чисел (или функций). Качество того или иного варианта определяется некоторым показателем — численной характеристикой, определяющей близость достижения поставленной цели при выбранном варианте.

Наилучший вариант соответствует экстремуму показателя качества, т. е. минимуму или максимуму в зависимости от конкретной задачи. Показатели качества обычно представляют собой функционалы. Эти функционалы можно рассматривать как функции, в которых роль независимых переменных играют некоторые кривые или векторы, характеризующие варианты. Функционал, зависящий от вектора, представляет собой просто функцию многих переменных. Мы далее будем рассматривать в основном функционалы, зависящие от вектора, к которым можно сводить функционалы, зависящие от функции, на основе прямых методов вариационного исчисления.

В общей форме показатель качества можно представить в виде условного математического ожидания

.                        (1.1)

или кратко

.                                     (1.2)

где  — функционал вектора , зависящий также от вектора случайных последовательностей или процессов , плотность распределения которого равна ;  — пространство векторов . Здесь и далее все векторы представляются столбцовыми матрицами.

В выражении (1.2) явно не подчеркнута возможная зависимость функционала от известных векторов, с которой мы всегда будем сталкиваться при рассмотрении конкретных задач. К уравнению (1.2) сводится целый ряд различных по своей форме показателей качества. Так, например, весьма распространенный в теории статистических решений средний риск — байесовский критерий — определяется как

.                        (1.3)

В этом выражении приняты следующие обозначения:  — вероятность того, что наблюдаемый элемент  относится к подмножеству  множества,— условная плотность распределения вероятности па подмножестве . Далее,  — решающее правило, зависящее от неизвестного вектора параметров , такое, что

        (1.4)

Наконец,  — элементы платежной матрицы , определяющие стоимость ошибочных решений.

Представим формулу для в виде

.                       (1.5)

Отсюда следует, что  можно рассматривать как условное математическое ожидание случайной величины  с некоторым распределением

Иногда удобно использовать показатель качества, определяющий вероятность того, что величина находится в заданных пределах , т. е.

.                                               (1.6)

Вводя новую переменную, так называемую характеристическую функцию

                               (1.7)

можно преобразовать (1.6) к виду

,                                                                (1.8)

что совпадает по форме с (1.2).

Достижению цели соответствует минимум (например, в случае (1.3)) или максимум (например, в случае (1.6)). Поэтому функционалы часто называются также критериями оптимальности.