对角矩阵、对称矩阵、单位向量、正交矩阵

对角矩阵只在对角线上含有非0元素，其它位置都为0。我门用 d i a g ( v ) diag(v) diag(v)表示一个对角元素由向量 v v v组成的对角方阵。对角矩阵的乘法计算效率很高。我们已经见过一种特殊的对角矩阵：单位矩阵。 不是所有的对角矩阵都是方阵，长方形的矩阵也有可能是对角矩阵。

对称矩阵是转置矩阵和自己相等的矩阵： A = A T A = A^T A=AT 当某些不依赖参数顺序的双参数函数生成元素时，对称矩阵经常会出现。例如，如果 A A A是一个表示距离的矩阵， A i , j A_{i,j} Ai,j​表示点 i i i到点 j j j的距离，那么 A i , j = A j , i A_{i,j}=A_{j,i} Ai,j​=Aj,i​。

单位向量是指具有单位范数的向量： ∥ x ∥ 2 = 1 \|x\|_2 = 1 ∥x∥2​=1

如果 x T y = 0 x^Ty = 0 xTy=0，那么我们称向量 x x x和向量 y y y正交。如果2个向量都有非0范数，那么这2个向量之间的夹角是90度。在 R n R^n Rn中，最多有n个范数非0的向量正交。如果这些向量不仅正交，并且范数都为1，那么我们称他们是标准正交。

正交矩阵是指行向量和列向量都是标准正交的方阵： A T A = A A T = I A^TA = AA^T = I ATA=AAT=I 这意味着 A − 1 = A T A^{-1} = A^T A−1=AT