向量是数学中的一个基本概念，它表示在空间中具有大小和方向的量。向量可以用箭头来表示，箭头的长度表示向量的大小（模），箭头的方向表示向量的方向。

在坐标系中，向量通常表示为有序数对 ( x , y ) (x,y) (x,y) 或有序三元组 ( x , y , z ) (x,y,z) (x,y,z)，其中 x , y , z x, y, z x,y,z 分别表示向量在 x x x 轴、 y y y 轴、 z z z 轴方向上的大小，也称为向量的分量。向量的长度（模）表示为 ∣ v ∣ |\boldsymbol{v}| ∣v∣，其中 v \boldsymbol{v} v 表示向量。

例如，在二维坐标系中，一个向量 v \boldsymbol{v} v 可以表示为 ( x , y ) (x,y) (x,y) 或 v = x i + y j \boldsymbol{v} = x\boldsymbol{i} + y\boldsymbol{j} v=xi+yj，其中 i \boldsymbol{i} i 和 j \boldsymbol{j} j 分别表示 x x x 轴和 y y y 轴正方向的单位向量。

需要注意的是，向量和标量（单个数值）是不同的概念。标量只有大小，而向量有大小和方向。

向量有多种表示方法，其中比较常见的有以下几种：

在机器学习中，通常使用矩阵表示法来表示向量，因为矩阵具有更好的运算性质。同时，基向量的线性组合也是机器学习中常见的概念，例如，多元线性回归中就是使用基向量的线性组合来表示数据。

向量的加法和减法是向量运算中的基本操作，它们的定义如下：

设 a \boldsymbol{a} a 和 b \boldsymbol{b} b 是两个向量，则它们的和 a + b \boldsymbol{a}+\boldsymbol{b} a+b 和差 a − b \boldsymbol{a}-\boldsymbol{b} a−b 分别定义为：

a + b = ( a 1 + b 1 , a 2 + b 2 , ⋯   , a n + b n ) a − b = ( a 1 − b 1 , a 2 − b 2 , ⋯   , a n − b n ) \begin{aligned} \boldsymbol{a}+\boldsymbol{b} &= (a_1+b_1, a_2+b_2, \cdots, a_n+b_n) \\ \boldsymbol{a}-\boldsymbol{b} &= (a_1-b_1, a_2-b_2, \cdots, a_n-b_n) \end{aligned} a+ba−b​=(a1​+b1​,a2​+b2​,⋯,an​+bn​)=(a1​−b1​,a2​−b2​,⋯,an​−bn​)​

其中 a i a_i ai​ 和 b i b_i bi​ 分别表示向量 a \boldsymbol{a} a 和 b \boldsymbol{b} b 在第 i i i 个方向上的分量， n n n 表示向量的维度。需要注意的是，向量加法和减法要求两个向量具有相同的维度。

图示来看，向量加法和减法的几何意义如下：

可以使用坐标表示法或箭头表示法来表示向量加法和减法。例如，在二维坐标系中，设向量 a = ( a 1 , a 2 ) \boldsymbol{a}=(a_1,a_2) a=(a1​,a2​)，向量 b = ( b 1 , b 2 ) \boldsymbol{b}=(b_1,b_2) b=(b1​,b2​)，则它们的和可以表示为 a + b = ( a 1 + b 1 , a 2 + b 2 ) \boldsymbol{a}+\boldsymbol{b}=(a_1+b_1, a_2+b_2) a+b=(a1​+b1​,a2​+b2​)，在坐标系中表示为将向量 b \boldsymbol{b} b 平移后叠加在向量 a \boldsymbol{a} a 上得到的新向量。向量的减法可以表示为 a − b = a + ( − b ) \boldsymbol{a}-\boldsymbol{b}=\boldsymbol{a}+(-\boldsymbol{b}) a−b=a+(−b)，其中 − b -\boldsymbol{b} −b 表示向量 b \boldsymbol{b} b 的相反向量。

向量的数量积和向量积是向量运算中的两种常见操作，它们分别表示为：

a ⋅ b = a 1 b 1 + a 2 b 2 + ⋯ + a n b n = ∑ i = 1 n a i b i \boldsymbol{a}\cdot\boldsymbol{b} = a_1b_1+a_2b_2+\cdots+a_nb_n = \sum_{i=1}^na_ib_i a⋅b=a1​b1​+a2​b2​+⋯+an​bn​=i=1∑n​ai​bi​

其中 a i a_i ai​ 和 b i b_i bi​ 分别表示向量 a \boldsymbol{a} a 和 b \boldsymbol{b} b 在第 i i i 个方向上的分量， n n n 表示向量的维度。向量的数量积是一个标量，表示为两个向量在空间中的夹角的余弦值乘上它们的模长之积，即 a ⋅ b = ∣ a ∣ ∣ b ∣ cos ⁡ θ \boldsymbol{a}\cdot\boldsymbol{b}=|\boldsymbol{a}||\boldsymbol{b}|\cos\theta a⋅b=∣a∣∣b∣cosθ，其中 θ \theta θ 表示 a \boldsymbol{a} a 和 b \boldsymbol{b} b 之间的夹角。

a × b = ∣ i j k a 1 a 2 a 3 b 1 b 2 b 3 ∣ = ( a 2 b 3 − a 3 b 2 ) i + ( a 3 b 1 − a 1 b 3 ) j + ( a 1 b 2 − a 2 b 1 ) k \boldsymbol{a}\times\boldsymbol{b} = \begin{vmatrix} \boldsymbol{i} & \boldsymbol{j} & \boldsymbol{k} \\ a_1 & a_2 & a_3 \\ b_1 & b_2 & b_3 \\ \end{vmatrix} = (a_2b_3-a_3b_2)\boldsymbol{i}+(a_3b_1-a_1b_3)\boldsymbol{j}+(a_1b_2-a_2b_1)\boldsymbol{k} a×b= ​ia1​b1​​ja2​b2​​ka3​b3​​ ​=(a