§ 2.4. Алгоритмы оптимизации

Соотношение (2.4) определяет последовательность действий, которые нужно осуществить, чтобы определить оптимальный вектор . Поэтому уместно назвать (2.4) алгоритмом оптимизации. Этот алгоритм оптимизации можно рассматривать как рекуррентное уравнение. Вводя обозначение первой разности

,                                     (2.6)

легко представить алгоритм оптимизации в виде разностного уравнения

.                           (2.7)

Наконец, суммируя обе части этого уравнения от 0 до , получим алгоритм оптимизации в виде суммарного уравнения

,               (2.8)

которое, в отличие от (2.4) и (2.7), включает начальное значение . Таким образом, алгоритмы оптимизации могут быть представлены в трех формах: рекуррентной, разностной и суммарной.

Рис. 2.1.

Рис. 2.2.

Рекуррентные, разностные или суммарные уравнения соответствуют некоторым дискретным системам с обратной связью, структурная схема которых приведена на рис. 2.1. Структурная схема включает в себя нелинейный преобразователь , усилитель с переменным, вообще говоря, коэффициентом усиления  и дискретный интегратор — дигратор (на рис. 2.1 и 2.2, а, в обозначенный буквой Д). Последний, как показано на рис. 2.2, б, представляет собой элемент запаздывания, охваченный единичной положительной обратной связью. На выходе дигратора мы всегда получаем  (рис. 2.2). Величину  можно получить суммированием  и   (рис. 2.2, в). Двойные линии на рис. 2.1 означают векторные связи. Особенность этой дискретной системы с обратной связью состоит в том, что она автономна. Вся нужная априорная информация уже содержится в нелинейном преобразователе.