矩阵的零空间和零度

这篇短文中将介绍矩阵零空间与矩阵零度的概念，以及矩阵秩-零度定理。

给定矩阵 A ∈ R m × n A \in \mathbb{R}^{m \times n} A∈Rm×n，那么矩阵的零空间定义为：

如果 X ∈ R n × 1 X \in \mathbb{R}^{n \times 1} X∈Rn×1，且有 A X = 0 AX = \mathbf{0} AX=0，那么所有这样的 X X X 组成的线性空间就是矩阵 A A A 的零空间。

首先我们须要验证所有满足 A X = 0 AX = \mathbf{0} AX=0 的 X X X 组成一个线性空间。

为了方便，我们记 n u l l s p a c e ( A ) = { X : A X = 0 } nullspace(A) = \{X: AX = \mathbf{0} \} nullspace(A)={X:AX=0}。

于是我们就证明了 n u l l s p a c e ( A ) nullspace(A) nullspace(A) 是一个线性空间。值得指出的是，虽然 n u l l s p a c e ( A ) = { X : A X = 0 } nullspace(A) = \{X: AX = \mathbf{0} \} nullspace(A)={X:AX=0} 构成一个线性空间，但是集合 Ω = { X : A X ≠ 0 } \Omega = \{X: AX \neq \mathbf{0} \} Ω={X:AX=0} 却不是一个线性空间。

矩阵零空间的维度 (dimension) 称为矩阵的零度 (nullity)。对于线性空间的维度，我们回忆起其定义为线性空间中向量个数最多的线性无关组所包含的向量的个数。我们记矩阵 A A A 的零度为 n u l l i t y ( A ) nullity(A) nullity(A)。

给定矩阵 A ∈ R m × n A \in \mathbb{R}^{m \times n} A∈Rm×n，我们有 r a n k ( A ) + n u l l i t y ( A ) = n rank(A) + nullity(A) = n rank(A)+nullity(A)=n 这成为秩-零度定理 (The Rank-Nullity Theorem)。

我们知道可以通过对矩阵进行初等行变换，得到行阶梯形矩阵 (row-echelon form)。那么对于得到的行阶梯形矩阵的，所有某一行的第一个非零的元素 (有的线性代数书中称为 number of leading variables) 对应的列所构成的集合的元素个数就是这个矩阵的秩。

这看起来有些复杂，我们来举一个例子。 A = ( 1 1 2 3 3 4 − 1 2 − 1 − 2 5 4 ) A = \begin{pmatrix} 1 & 1 & 2 & 3 \\ 3 & 4 & -1 & 2 \\ -1 & -2 & 5 & 4 \\ \end{pmatrix} A= ​13−1​14−2​2−15​324​ ​

对 A A A 进行初等行变换之后，我们得到 A ∼ ( 1 1 2 3 0 1 − 7 − 7 0 − 1 7 7 ) ∼ ( 1 1 2 3 0 1 − 7 − 7 0 0 0 0 ) A \sim \begin{pmatrix} 1 & 1 & 2 & 3 \\ 0 & 1 & -7 & -7 \\ 0 & -1 & 7 & 7 \\ \end{pmatrix} \sim \begin{pmatrix} 1 & 1 & 2 & 3 \\ 0 & 1 & -7 & -7 \\ 0 & 0 & 0 & 0 \\ \end{pmatrix} A∼ ​100​11−1​2−77​3−77​ ​∼ ​100​110​2−70​3−70​ ​

对于行阶梯形矩阵 ( 1 1 2 3 0 1 − 7 − 7 0 0 0 0 ) \begin{pmatrix} 1 & 1 & 2 & 3 \\ 0 & 1 & -7 & -7 \\ 0 & 0 & 0 & 0 \\ \end{pmatrix} ​100​110​2−70​3−70​ ​，它的行的第一个非零元素所在的列是第一列和第二列，一共有两列。从而 A A A 的秩为 2。

而 Rank-Nullity 定理是说， r a n k ( A ) + n u l l i t y ( A ) = 4 rank(A) + nullity(A) = 4 rank(A)+nullity(A)=4。即 A A A 的零空间的维度是 2。

如何证明 Rank-Nullity 定理呢？我们考虑方程 A X = 0 AX = \mathbf{0} AX=0。因为对于矩阵进行初等行变换，并不影响方程 A X = 0 AX = \mathbf{0} AX=0 的解。我们可以对 A A A 进行初等行变换。如果 r a n k ( A ) = n rank(A) = n rank(A)=n ，那么 A A A 经过初等行变换得到的矩阵每一列都会有一个某一行中第一个非零的元素。于是可以想见，这时 A X = 0 AX = \mathbf{0} AX=0 的解只有 X = 0 X = \mathbf{0} X=0。从而， n u l l i t y ( A ) = 0 nullity(A) = 0 nullity(A)=0。Rank-Nullity 定理成立。

如果 r a n k ( A ) = r < n rank(A) = r < n rank(A)=r