内积空间上线性算子的分解

本文希望总结和回顾学习过程中遇到的各种算子的各种形式的分解，主要针对内积空间。

这里“分解”包含两层意思：

一是算子本身的分解。或者对应矩阵的分解。

二是算子在某组标准正交基下的规范形式。这可视为对应矩阵的分解，或者对空间本身的分解。

本文很多结果只是给出证明思路或关键，错误、疏漏，还请指出。

实内积空间上，

T\in\mathcal L(V)\iff V 中有标准正交基，使得 T 关于此基有形式 \begin{pmatrix} A_1&&*\\ &\ddots\\ &&A_n \end{pmatrix}

其中每个 A_i 都是 1\times1 或者 2\times2 的矩阵。

复内积空间上，

T\in\mathcal L(V)\iff （关于某组标准正交基有）分块对角矩阵 \begin{pmatrix} A_1\\ &\ddots\\ &&A_m \end{pmatrix}

其中 A_j=\begin{pmatrix} \lambda_j&&*\\ &\ddots\\ &&\lambda_j \end{pmatrix} ， \lambda_j 为 T 特征值。

（在不引起歧义的情况下，这样的写法更简洁）

实内积空间上，

T\in\mathcal L(V) 正规 \iff 分块对角矩阵：对角块为 (a) 或者 \begin{pmatrix} a&-b\\ b&a \end{pmatrix} （ b>0 ）

复内积空间上，

T\in\mathcal L(V) 正规 \iff 对角矩阵

注意下文提到的保距算子、自伴算子都是正规算子。

实内积空间上，

T\in\mathcal L(V) 自伴（对称线性算子） \iff 对角矩阵

复内积空间上，

T\in\mathcal L(V) 自伴（Herimitian算子） \iff 实对角矩阵

可统一写为：

内积空间上，自伴算子 \iff 实对角矩阵

实内积空间（欧氏空间）上，

T\in\mathcal L(V) 保距（正交算子） \iff \small\begin{pmatrix} \cos \varphi_1&\sin \varphi_1\\ -\sin\varphi_1&\cos\varphi_1\\ &&\cos \varphi_2&\sin \varphi_2\\ &&-\sin\varphi_2&\cos\varphi_2\\ &&&&\ddots\\ &&&&&-I_k\\ &&&&&&I_l \end{pmatrix}

复内积空间（埃氏空间）上，

T\in\mathcal L(V) 保距（酉算子） \iff \small\begin{pmatrix} {\rm e}^{{\rm i}\varphi_1}\\ &\ddots\\ &&{\rm e}^{{\rm i}\varphi_n} \end{pmatrix}

关于 V 上的某个规范正交基具有对角矩阵的算子是 V 上性质最好的算子。而我们也看到，这恰好是 T\in \mathcal L(V) ： V 有由 T 的特征向量构成的规范正交基。

谱分解定理（Spectral Theorem）研究了在实、复内积空间上的具有上述性质的算子，并得到如下很好的结果。作为补充，还介绍了可对角化算子的谱定理。

设 V 为复内积空间， T\in \mathcal L(V) ，则 V 有一个由 T 的本征向量构成的规范正交基 \iff T 是正规的。

设 V 为实内积空间， T\in \mathcal L(V) ，则 V 有一个由 T 的本征向量构成的规范正交基 \iff T 是自伴的。

设 T\in\mathcal L(V,\mathbb K) 上的线性算子，有互不相同的特征值 \lambda_1,\cdots,\lambda_r ，则存在相互正交的投影算子 \mathcal {P_1,\cdots，P_r} 使得：

（1） \displaystyle \sum_i\mathcal P_i=\mathcal E

（2） \displaystyle \sum_i \lambda_i\mathcal P_i=T 是其谱分解式，具有唯一性。

（3）存在 \mathbb K 上的多项式 f_1,\cdots,f_r 使得： f_i(\lambda_j)=\delta_{ij}，f_i(T)=\mathcal P_i

T\in\mathcal L(V) 是半正算子

\iff T 是自伴的且所有特征值非负

\iff T 有半正的平方根

\iff T 有自伴的平方根

\iff 有 R\in\mathcal L(V) 使得 T=R^*R

若T\in \mathcal L(V)，则有保距算子 S\in \mathcal L(V) 使得：

T=S\sqrt{T^*T}

T 的奇异值就是指 \sqrt{T^*T} 的特征值。

奇异值分解：

（1） T\in \mathcal L(V) 有奇异值 s_1,\cdots,s_n ，则有 V 的两组规范正交基 \{e_i\}、\{f_i\} 使得对于 \forall v\in V ：

Tv=\displaystyle\sum_{i=1}^ns_if_i

（2）矩阵 A 是 m\times n 阶矩阵，则有酉矩阵 U_m、V_n 使得： A=U\Sigma V^* ，其中 \Sigma 为 m\times n 阶矩阵，主对角线上元素为其奇异值，其余元素为0。

奇异值分解定理让我们可以考虑同一算子在两组规范正交基形式。也说明，只要允许我们使用两组基来处理算子，则每一个算子都有对角矩阵的形式。

下面是值得一看的文章：

gwave：奇异值与特征值辨析

漫漫成长：奇异值分解（SVD）

Iterator：奇异值分解（SVD）的定义、证明、求法（矩阵分解——3. 奇异值分解（SVD））

约当块： \small J_n(\lambda)=\begin{pmatrix} \lambda&1&0&\cdots&0\\ &\lambda&1&\cdots&0\\ &&\ddots&\ddots&\vdots\\ &&&\lambda&1\\ &&&&\lambda \end{pmatrix}

约当矩阵： \small \begin{pmatrix} J_{m_1}(\lambda_1)&&&&\\ &J_{m_2}(\lambda_2)&&&\\ &&\ddots&&\\ &&&&J_{m_s}(\lambda_s) \end{pmatrix}

每个 (T-\lambda_jI)|_{A(\lambda_j,T)} 都给出一个幂零算子，在限制下，都有某基使得其具有分块对角矩阵，对角线上每个元都是 \tiny\begin{pmatrix} 0&1&&&\\ &0&1&&\\ &&\ddots&\ddots&\\ &&&0&1\\ &&&&0 \end{pmatrix} 形式。

从而有（Camille Jordan，1870）：若 T\in\mathcal L_{\mathbb C}( V) ，则存在 T 的一个Jordan基。

1、复数域上的方阵可以分解为两个对称阵的乘积，且可指定其中一个是非退化的。

2、Jordan—Chevalley分解

若 T\in\mathcal L_{\mathbb C}( V) ，则存在唯一的可对角化算子（也称半单算子） \mathcal S 和幂零算子 \mathcal N 使得：

（1） T=\mathcal {S+N}

（2） \mathcal {SN=NS}

（3） \mathcal {S,N} 都可表示为 T 的多项式

罗列一些结论：

1、 \mathbb C 上可交换的两个算子有共同的特征向量。

2、两个可对角化算子 \mathcal {T、P} ，它们交换 \iff 这两个可对角化算子可同时对角化

3、 \varphi 在 V 中有不变子空间 U \iff 存在从 V 到 U 的投影算子 \mathcal P 使得 \mathcal {P\varphi=\varphi P}

4、埃氏空间上的正规算子 \mathcal A 若与 \mathcal B 交换，则它也与 \mathcal B^* 交换

5、两个自伴算子的乘积自伴 \iff 它们交换

6、算子极化分解中的因子 \mathcal {P、Q} 交换 \iff T 正规

7、和 n 阶复方阵 A 可交换的方阵必为 A 的多项式

这篇文章也值得一读：

矩阵的可交换性有什么几何意义吗？

部分结果已在上给出，这里再提一个：

\mathbb C （或 \mathbb R ）上两个Hermitian型（对称双线性型） q(x)、r(x) ，若其中有一个正定，则可同时对角化。

QR分解

设 A_{m \times n} 的秩为 n ，则 A 可以唯一地分解为：

A_{m \times n} =Q_{m \times n}R_{n \times n}

其中， Q_{m \times n} 是标准正交向量组矩阵， R_{n \times n} 是正上三角阵。

满秩分解

设 A_{m \times n} 的秩为 r ，则存在秩为 r 的矩阵 B_{m \times r} ，秩为 r 的矩阵 C_{r \times n} ，使得：

A_{m \times n} = B_{m \times r} C_{r \times n}

值得注意的是，这样的分解不是唯一的。

LU分解

对于一个可逆方阵 A ，如果它的所有顺序主子式都不为零时，则有：

A=LU

其中 L、U 分别是下三角矩阵（Lower Triangle Matrix）和上三角矩阵（Uppder Triangle Matrix）。

在考虑算子 T 的矩阵按类别化成规范型时，基础域 \Re 是关键的（比如我们看到，同类别 \mathbb C 上的算子总是比 \mathbb R 上的性质好）。所以考虑“复化和实化”是自然而有必要的。

概念回顾

下面陈列概念和结论，后者几乎是显然的。

\mathcal J :V\to V,\mathcal J^2=-\mathcal E ，称为复结构

\widetilde V=(V,\mathcal J) 称为与实空间 V 相关的复化向量空间， 2\dim _{\mathbb C}\widetilde V=\dim_{\mathbb R}V

U_{\mathbb R} 是 U 的实化空间，例如 \widetilde V_{\mathbb R}=V

\mathcal A_{\mathbb R}:U_{\mathbb R}\to U_{\mathbb R} 称为 \mathcal {A=A_1+iA_2} 的实化算子，其对应矩阵为 \begin{pmatrix} A_1&-A_2\\ A_2&A_1 \end{pmatrix}

\det \mathcal A_{\mathbb R}=|\det\mathcal A|^2 ， \dim \mathcal L(U)_{\mathbb R} =2n^2=\cfrac 12\dim\mathcal L(U_{\mathbb R})

结果1：（对复结构 \mathcal J 而言）所有实化算子的子代数 \mathcal L(U)_{\mathbb R} \subset\mathcal L(U_{\mathbb R}) 恰好由所有与 \mathcal J 交换的算子组成

结果2：在 V_{\mathbb R,2} 上， \mathcal A 若无特征向量，则其与某个复结构 \mathcal J 相容

复化

设 V=V_{\mathbb R,n} ，在外直和 V\oplus V 上定义 \mathcal J:(u,v)\to(-v,u) ，称为其上规范的复结构。相应的复化空间

\widetilde{V\oplus V}=:V^{\mathbb C}=V\otimes_{\mathbb R}\mathbb C

自然地，有 \dim _{\mathbb C} V^{\mathbb C}=\dim_{\mathbb R}V

在其上的 \mathbb C- 线性算子 \mathcal A^{\mathbb C}:(u+iv)=\mathcal Au+i\mathcal Av 称为 \mathbb R- 线性算子 \mathcal A 的复化算子

A^{\mathbb C}=A ，还可得到 (\mathcal {A+B})^{\mathbb C}=\mathcal {A^{\mathbb C}+B^{\mathbb C}}、(\mathcal {AB})^{\mathbb C}=\mathcal {A^{\mathbb C}B^{\mathbb C}}

若 V 是带有纯量乘积 (*|*) 的实向量空间，可定义 V^{\mathbb C} 上的纯量乘积为 (x+iy|u+iv):=(x|u)+(y|v)-i((x|v)-(u|y))

值得注意的是， \mathbb C 上的每一个 n 维空间 U 都同构于一个复包络 V^{\mathbb C}

复实交替

W:=(V^{\mathbb C})_{\mathbb R}=V\oplus iV

(V_{\mathbb R})^{\mathbb C}=V\oplus \overline V

这篇文章是对自己笔记[1]的总结和再回顾，常看常新，再看再新。我们看到，算子提供了另外一种看待线性空间的方式，其内容甚为丰富。