深度学习

2.6 特殊类型的矩阵和向量

对角矩阵：只在主对角线上含有非零元素，其他位置都是零。形式上，矩阵D是对角矩阵，当且仅当对于所有的i ≠ j, Di, j = 0。

单位矩阵：是对角矩阵，其对角元素全部是1。

用diag(v)表示对角元素由向量v中元素给定的一个对角方阵。

如图：

对角方阵的逆矩阵：diag(v)-1 = diag([1/v1,...,1/vn])

计算乘法diag(v)x，我们只需要将x中的每个元素xi放大vi倍。换言之，diag(v)x = v圈点x

并非所有的对角矩阵都是方阵。长方形的矩阵也有可能是对角矩阵。非方阵的对角矩阵没有逆矩阵。

对于长方形对角矩阵D而言，乘法Dx会涉及x中每个元素的缩放，如果D是瘦长型矩阵，那么在缩放后的末尾添加一些零；如果D是胖宽型矩阵，那么在缩放后去掉最后一些元素。

如图：

对阵矩阵：是转置和自己相等的矩阵，即A = AT

单位向量：是具有单位范数的向量，即||x||2 = 1

正交：如果xTy = 0，那么向量x和向量y互相正交

标准正交：如果有n个（范数非零）向量不但互相正交，而且范数都为1，那么我们称他们是标准正交。

正交矩阵：指行向量和列向量是分别标准的正交方阵，即ATA = AAT = I => A-1 = AT