§ 2.20. Некоторые задачи

Наиболее важные задачи, которые возникают при разработке и использовании алгоритмов оптимизации, связаны с обеспечением неизбежной сходимости и развитием способов ускорения сходимости.

Вероятно, ускорения сходимости можно достигнуть, если изменять  и зависимости от результатов вычисления . Важно определить, какова должна быть зависимость  от .

Было бы очень полезно выработать какие-либо принципы сравнения алгоритмов оптимизации.

Возможно, эту задачу удалось бы решить, если бы можно было найти общее выражение функционала вектора , минимизация которого приводила бы непосредственно к алгоритмам оптимизации с однозначно определенным шагом .

Для эффективного применения многошаговых алгоритмов важно найти обоснованные способы выбора их параметров.

Открытым остался вопрос о наилучших алгоритмах. Мы не обольщаемся надеждой, что его легко решить. Если бы это было так, то уже давно из изобилия итеративных методов решения, например, трансцендентных уравнений можно было бы выбрать наилучшие и только ими и пользоваться.