Почему в алгоритме SVM вектор w ортогонален разделяющей гиперплоскости?

Я новичок в машинном обучении. В SVM разделяющая гиперплоскость определяется как . Почему мы говорим, что вектор w ортогонален разделяющей гиперплоскости?$y = w^T x + b$$w$

Геометрически вектор w направлен перпендикулярно прямой, определенной как . Это можно понять следующим образом:$w^{T} x = b$

Сначала возьмите . Теперь ясно, что все векторы x с исчезающим внутренним произведением с w удовлетворяют этому уравнению, т.е. все векторы, ортогональные w, удовлетворяют этому уравнению.$b = 0$$x$$w$

Теперь переведите гиперплоскость от начала координат над вектором a. Уравнение для плоскости теперь становится: , т.е. мы находим это для смещения b = a T w , которое является проекцией вектора a на вектор w .$(x − a)^{T} w = 0$$b = a^{T} w$$a$$w$

Таким образом, без ограничения общности мы можем выбрать перпендикуляр к плоскости, и в этом случае длина который представляет кратчайшее ортогональное расстояние между началом координат и гиперплоскостью.$\vert\vert a \vert\vert = \vert b \vert /\vert\vert w\vert\vert$

Следовательно, вектор называется ортогональным к разделяющей гиперплоскости.$w$

Причина, по которой нормальна для гиперплоскости, заключается в том, что мы определяем ее следующим образом:$w$

$P_0$$P_0 = x_0, y_0, z_0$$(0,0,0)$$<x_0,y_0,z_0>$$P (x,y,z)$$P$$P_0$

$$\vec{P} - \vec{P_0} = <x-x_0, y-y_0, z-z_0>$$

$\hat{n}$

$$\hat{n} \bullet (\vec{P}-\vec{P_0}) = 0$$ $$\hat{n} \bullet \vec{P}- \hat{n} \bullet \vec{P_0} = 0$$ $-\hat{n} \bullet \vec{P_0}$$b$$\hat{n}$$w$$\vec{P}$$x$$w$

$w^Tx + b = 0$$x_a$$x_b$

$$\begin{equation} w^Tx_a + b = 0 \\ w^Tx_b + b = 0 \end{equation}$$

$w^T.(x_a - x_b) = 0$$x_a - x_b$$x_b$$x_a$$w^T.(x_a - x_b)$$w^T$$x_a - x_b$

Используя алгебраическое определение вектора, ортогонального к гиперплоскости:

$\forall \ x_1, x_2$

$$w^T(x_1-x_2)=(w^Tx_1 + b)-(w^Tx_2 + b)=0-0=0 \ \small\Box.$$