§ 7. Теория оптимальной разделяющей гиперплоскости
Напомним, что оптимальной разделяющей гиперплоскостью была названа плоскость

,
где
– единичный вектор, доставляющий максимум функции
,
.
Рассмотрим теперь минимальный по модулю вектор
(доставляющий минимум функции
), удовлетворяющий неравенствам
,
. (14.20)
Параметр
считается допустимым, если неравенства (14.20) совместны. Нетрудно убедиться, что если множества
и
разделимы гиперплоскостью, то множество допустимых
не пусто. Будем искать минимум функции
при ограничениях (14.20), считая переменными как вектор
, так и параметр
. Оказывается, что решение этой задачи равносильно отысканию оптимальной разделяющей гиперплоскости.
Теорема 14.9. Если множества
и
разделимы гиперплоскостью, то минимум функции
при ограничениях (14.20) существует, единственен и достигается при
,
,
где
– направляющий вектор оптимальной разделяющей гиперплоскости.
Доказательство. Покажем, что для любого вектора
, удовлетворяющего (14.20), справедливо неравенство
. (14.21)
Действительно, поскольку нуль не удовлетворяет (14.20), знаменатель в нуль не обращается. Далее, в силу (14.20)
,

и, значит,
,
причем равенство достигается только в том случае, когда

и
.
Теперь, учитывая, что
, (14.22)
получаем для любого вектора
, удовлетворяющего (14.20),
. (14.23)
В силу единственности оптимальной разделяющей гиперплоскости (теорема 14.1) неравенства (14.21) и (14.22) переходят в равенство для векторов, удовлетворяющих (14.20), только при
,
,
. (14.24)
Только при этих условиях, очевидно, достигается равенство и в (14.23).
Разрешая эти равенства относительно
и
, получаем что минимум
при ограничениях (14.20) достигается только в точке
,
.
Теорема доказана.
Таким образом, вектор
, доставляющий максимум
при ограничениях (14.20), всегда коллинеарен (
и оптимальная разделяющая гиперплоскость может быть задана в виде
.