§ 4.10. ЗамечанияВсе алгоритмы обучении, о которых выше шла речь, связаны с аппроксимацией указаний «учителя», выраженных в форме или , т. е. разрывной функции при помощи непрерывной функции . Такое желание не всегда может показаться естественным. Очевидно, что в задачах опознавания часто разумнее определять так, чтобы только знак ее совпадал со знаком . Возможно, эти соображения и руководили авторами, предложившими алгоритм 1 (табл. 4.1), в котором поправка вносится лишь в том случае, когда знаки и различны. Такой алгоритм в принятых здесь обозначениях записывается в виде , (4.31) где может быть и постоянной. По градиенту реализации (4.32) легко восстановить критерий оптимальности: . (4.33) Этот критерий и был выписан в табл. 4.1. Критерий оптимальности, как мы уже упоминали в § 4.7, не совсем удачен, поскольку функция, стоящая под знаком математического ожидания, невыпукла. Помимо оптимального значения вектора , функционал имеет тривиальное решение . Существование этого решения (после установления этого факта) очевидно и из самого алгоритма (4.31). Это обстоятельство делает алгоритм (4.31) непригодным в тех случаях, когда классы и разделяются нечетко.
|