习题6.1 试证明样本空间中任意点 x x x到超平面 （ w , b ） （w,b） （w,b）的距离为式（6.2）

r = ∣ w T x + b ∣ ∣ ∣ w ∣ ∣ (6.2) r=\frac{|w^Tx+b|}{||w||} \tag{6.2} r=∣∣w∣∣∣wTx+b∣​(6.2)

-设点 x x x到超平面 S S S上的投影为 x 1 {x_1} x1​,则 w ⋅ x 1 + b = 0 w\cdot{x_1}+b=0 w⋅x1​+b=0 由于 x 1 x ⃗ \vec{x_1x} x1​x ​与 S S S的法向量 w {w} w平行

∣ w ⋅ x 1 x ⃗ ∣ = ∣ w ∣ ∣ x 1 x ⃗ ∣ ⏟ 要求的距离r = ∣ w ∣ r \begin{aligned} |{w}\cdot\vec{x_1x}| &=|{w}|\underbrace{|\vec{x_1x}|}_\text{要求的距离r}\\ &=|{w}|r \end{aligned} ∣w⋅x1​x ​∣​=∣w∣要求的距离r ∣x1​x ​∣​​=∣w∣r​

由于欧式距离下，向量的模=向量的 L 2 L_2 L2​范数

∣ w ⋅ x 1 x ⃗ ∣ = ∣ w ∣ r = ∣ ∣ w ∣ ∣ r (1) \begin{aligned} |{w}\cdot\vec{x_1x}|=|{w}|r=||{w}||r\tag1 \end{aligned} ∣w⋅x1​x ​∣=∣w∣r=∣∣w∣∣r​(1)

一般如果范数不写下标，比如 ∣ ∣ w ⃗ ∣ ∣ ||\vec{w}|| ∣∣w ∣∣，默认为 L 2 L_2 L2​范数。 ∣ ∣ w ∣ ∣ 2 = ∣ ∣ w ∣ ∣ ||{w}||_2=||{w}|| ∣∣w∣∣2​=∣∣w∣∣

又因为 w ⋅ x x 1 ⃗ ⏞ 向量的内积 = w T ( x 1 − x ) = w T x 1 − w T x (2) \begin{aligned} \overbrace{w\cdot\vec{xx_1}}^\text{向量的内积}&=w^T(x_1-x)\\ &=w^Tx_1-w^Tx\tag2 \end{aligned} w⋅xx1​ ​ ​向量的内积​​=wT(x1​−x)=wTx1​−wTx​(2) 已知 w ⋅ x 1 + b = 0 w ⋅ x 1 = − b (3) w\cdot{x_1}+b=0\\ w\cdot{x_1}=-b\tag3 w⋅x1​+b=0w⋅x1​=−b(3) 把（3）代入（2）中得到 w ⋅ x x 1 ⃗ = − b − w T x (4) w\cdot\vec{xx_1}=-b-w^Tx\tag4 w⋅xx1​ ​=−b−wTx(4) 把（4）代入（1）中

∣ − b − w T x ∣ = ∣ ∣ w ∣ ∣ r (5) \begin{aligned} |-b-w^Tx|=||{w}||r\tag5 \end {aligned} ∣−b−wTx∣=∣∣w∣∣r​(5) 即 r = ∣ w T x + b ∣ ∣ ∣ w ∣ ∣ r=\frac{|w^Tx+b|}{||w||} r=∣∣w∣∣∣wTx+b∣​