【ML学习笔记】6:机器学习中的数学基础6(对角矩阵,对称矩阵,正交矩阵,特征分解) | 您所在的位置:网站首页 › 单位矩阵不一定是方阵对吗 › 【ML学习笔记】6:机器学习中的数学基础6(对角矩阵,对称矩阵,正交矩阵,特征分解) |
对角矩阵
对角矩阵不一定是个方阵,只要i≠j的位置元素值为0即可。但一般说对角矩阵,考虑的都是方阵的情况,对于方阵,那就是只有主对角线上的元素可以不为0,其它元素都是0。 主对角元从左上角到右下角的次序常常记为一个列向量: 对角矩阵和向量的乘积比较方便,可以表示成Hadamard乘积(元素对应乘积): 对角矩阵求逆也很方便,只要把主对角线上每个元素变成其倒数就好: 转置和自己相等的矩阵就是对称的,可见对称矩阵一定是个方阵,而且A[i][j]=A[j][i]。当某些不依赖参数顺序的双参数函数生成元素时,就经常会出现对称矩阵。 比如数据结构中学无向图时,邻接矩阵就是一个对称矩阵,因为i到j的权重和j到i的权重在无向图中是一样的(不依赖参数的顺序)。 单位向量e具有单位L2范数的向量就是单位向量,也就是向量两端的欧几里徳距离等于1: 如果两个向量x和y的内积存在并且是0,那么这两个向量就是正交的。显然任意一个向量都会和同维度的零向量(L2范数为0的向量)正交,如果正交两个向量都不是零向量,它们的夹角就是90度。在n维的线性空间中,最多只能有n个非零向量互相正交。 向量的标准正交如果一组单位向量互相正交,那么就称它们标准正交。 正交矩阵行向量和列向量分别标准正交的方阵就是正交矩阵,显然单位矩阵I是一个特殊的正交矩阵。正交矩阵有这样的性质: 这个在前面也了解过,特征分解可以把方阵A分解成一组特征向量和特征值。 方阵的特征向量和特征值还是从这个经典的式子开始说: 如果找到了方阵A的一个特征向量v,那么v缩放非0的s倍的向量都是A的特征向量: 如果n阶的方阵A有n个线性无关的特征向量v1~vn,对应特征值λ1~λn,定义方阵v和列向量λ: 这一部分书上没有,自己推了一下,总之就是能从前面那个经典的式子推出特征分解的等式是成立的就可以。 从特征值和特征向量的定义式子Av=λv开始,展开也就是: 有时特征分解存在,但是会涉及复数(方阵可能没有实特征值,但一定有复特征值),但每个实对称矩阵都可以分解成实特征向量和实特征值: 具有特定特征值和特征向量的方阵,可以在特定的方向上延伸空间,比如拿前面推导中用的方阵A及其特征分解式中的特征向量组矩阵V来讲: 反映在空间中,正交向量的延伸(以二维为例子): 正定矩阵:所有特征值都是正数的方阵。 半正定矩阵:所有特征值都是非负数的方阵。 负定矩阵:所有特征值都是负数的方阵。 半负定矩阵:所有特征值都是非正数的方阵。 |
CopyRight 2018-2019 实验室设备网 版权所有 |