§ 6. Метод потенциальных функций

В 60-х годах М. А. Айзерман, Э. М. Браверман, Л. И. Розоноэр предложили для решения задач обучения распознаванию образов использовать разработанный ими метод потенциальных функций [1]. Этот метод также реализует идею рекуррентной процедуры минимизации среднего риска. Применительно к задаче обучения распознаванию образов суть метода заключается в следующем. На пространстве входных векторов  задается функция, которая называется «потенциалом». Потенциал определяет близость двух точек, , и обычно задается как функция расстояния между точками. Потенциальная функция, как правило, такова, что она монотонно уменьшается с увеличением расстояния. Примерами потенциальной функции могут служить

, ,

где  – расстояние от точки  до точки ;  – константа.

С помощью таких функций на пространстве  образуется потенциальное поле. Считается, что вектор  относится к первому классу, если потенциал поля в точке  положителен; в противном случае вектор  относится ко второму классу. Процесс обучения, таким образом, заключается в построении с помощью обучающей последовательности потенциального поля.

Геометрическая интерпретация метода построения потенциального поля очень наглядна (рис. 9).

Рис. 9.

Пусть для обучения машине предъявляется обучающая последовательность . При появлении первого элемента обучающей последовательности  «выпускается» потенциал с центром в точке . Знак потенциала определяется тем, к какому классу относится предъявленный пример: если к первому, то знак у потенциала положительный, если ко второму, то отрицательный. Теперь на пространстве  задан некоторый потенциал. Для второго элемента обучающей последовательности может быть вычислена величина потенциала . Если величина потенциала положительная, а элемент обучающей последовательности относится к первому классу, то потенциальное поле на пространстве  не меняется; если же величина потенциала в точке положительная, а вектор  должен быть отнесен ко второму классу, то из точки  «выпускается» новый потенциал, но с отрицательным знаком. Теперь на пространстве  действует новый суммарный потенциал

.

Аналогично, если при классификации элемента обучающей последовательности с помощью суммарного потенциала совершается ошибка, потенциал меняется так, чтобы по возможности выправить ошибку.

Таким образом, результатом обучения в методе потенциальных функций является построение на пространстве  потенциального поля

(здесь штрих у суммы означает, что суммирование проводится не по всем элементам обучающей последовательности, а лишь по тем, на которых совершалась «ошибка»).

Это поле разбивает все пространство на две части: часть пространства , где значение суммарного потенциала положительно (все точки в этой части пространства считаются принадлежащими первому классу), и части, где значения потенциала отрицательны (точки в этой части пространства считаются принадлежащими второму классу). Поверхность, на которой потенциал принимает нулевые значения, является разделяющей поверхностью.

Оказывается, что для всякого вида потенциала существует система функций  (вообще говоря, бесконечная!) такая, что все возможные разделяющие поверхности, которые могут быть получены с помощью метода потенциальных функций, могут быть получены с помощью персептрона Розенблатта, где соответствующее спрямляющее пространство задается преобразованиями . С другой стороны, для каждого персептрона легко находится соответствующая потенциальная функция.

Таким образом, метод потенциальных функций близок к персептронным методам Розенблатта. Для метода потенциальных функций возможны те же модификации, что и для персептрона Розенблатта.