2.4.3. Адаптивный линейный взвешенный сумматор с сигмоидой на выходе

Выходной сигнал адаптивного линейного сумматора с сигмоидой на выходе (рис. 2.10) можно описать выражением

,                        (2.53)

где функция  определяется формулой (2.6). Погрешность реализации (2.25) равна

.                        (2.54)

Рис. 2.10. Адаптивный линейный взвешенный сумматор с сигмоидой на выходе.

Для коррекции весов ,  применим алгоритм LMS в рекурсивной форме (2.48). В этом случае очевидно равенство

,                   (2-55)

а также

,               (2.56)

где

.                    (2.57)

Поскольку

,                      (2.58)

то

.                (2.59)

При подстановке равенств (2.55) и (2.59) в рекурсивное выражение (2.48) получим следующий алгоритм адаптивной коррекции весов:

,                  (2.60)

либо в скалярной форме

,                       (2.61)

для . Если , то функция (2.6) отвечает условию

.                  (2.62)

Поэтому алгоритм (2.60) можно записать в форме

              (2.63)

для , где погрешность  определяется выражением (2.54).

Алгоритмы (2.60) и (2.63) положены в основу метода обратного распространения ошибки, который подробно описывается в следующем разделе.