§ 2.17. Об ускорении сходимости

Мы уже упоминали в § 2.12, что переход к многошаговым алгоритмам может привести к ускорению сходимости. Здесь мы хотели бы на простейшем примере проиллюстрировать эту возможность. Рассмотрим алгоритм (2.37) при , , .

Положим

;;; , .                  (2.54)

Тогда

,               (2.55)

где

.

При  этот алгоритм сводится к обычному алгоритму типа (2.4). В отличие от последнего в (2.55) аргументом градиента является не просто , а средневзвешенное двух предшествующих значений,  и . Если это средневзвешенное ближе к оптимальному значению , чем , то скорость сходимости увеличится. Именно такая ситуация возникает, когда  стремится к  колебательным образом. Выбором на каждом шаге  можно существенно ускорить сходимость. Легко себе представить, что при этом  должно зависеть от разностей . Приближенно можно положить

.                            (2.56)

Рис. 2.11.

Структура системы, описываемая алгоритмом (2.55), изображена на рис. 2.11. Существенная особенность ее состоит в том, что она двухконтурна, а коэффициенты усиления  контуров зависят от текущего и предшествующего состояний. Вероятно, можно усилить сходимость, если в зависимости от значений  изменять соответственно .