3. 矩阵 (Matrices)

# 3. 矩阵 (Matrices)

## 3.0 引言：矩阵的运用 (Introduction: Matrices in Action)

在上一章节中，我们通过增广矩阵 ($\text{Augmented Matrix}$) 来记录线性方程组 $\text{(System of Linear Equations)}$ 的信息，并帮助简化涉及线性方程组的计算。在本章节中，我们将了解到矩阵本身的代数性质，从函数引入矩阵，从代数引入矩阵操作，了解矩阵变换的本质。

在高等数学中，我们已经学习到了，函数是对于空间上点的映射 $\text{(Mapping)}$ 操作，我们学习到了一元函数，以及多元函数。考虑如下二元函数
$$f(x_1,x_2) = x_1 + 2x_2$$

不难看出，这是对于实数域 $\mathbb{R}^2$ 到另一个实数域 $\mathbb{R}$ 的映射。例如，对于点 $X = (-2,1)$ ，经过函数 $f$ 的变换后，得到值 $Y = 0$。

考虑以下方程
$$\begin{cases}
y_1 = x_1 + 2x_2 \\
y_2 = \phantom{x_1 + {}} 3x_2
\end{cases}$$

我们可以将这组方程，视为描述向量 $\vec{x} = \begin{bmatrix}x_1\\x_2\end{bmatrix}$ 到 $\vec{y} = \begin{bmatrix}y_1\\y_2\end{bmatrix}$ 的变换。可记为

$$\begin{bmatrix}y_1\\y_2\end{bmatrix} = \begin{bmatrix}1&2\\0&3\end{bmatrix}\begin{bmatrix}x_1\\x_2\end{bmatrix}$$

故而，函数是点对点的映射，或理解为标量 $\text{(Scalar)}$ 对标量的映射。而矩阵则可以理解为，向量 $\text{(Vector)}$ 到向量的映射。

仿照函数，现在让我们来对一个向量进行一次矩阵操作 $\text{(Matrix Operation)}$ ，体会矩阵变换。

假设有一向量 $\vec{x} = \begin{bmatrix}-2\\1\end{bmatrix}$ ，那么根据上述式子，有 $\vec{y} = \begin{bmatrix}0\\3\end{bmatrix}$ 。可以记作
$$\begin{bmatrix}0\\3\end{bmatrix} = \begin{bmatrix}1&2\\0&3\end{bmatrix}\begin{bmatrix}-2\\1\end{bmatrix}$$

## 3.1 矩阵操作 (Matrix Operations)

$$\dots$$

## 3.5 子空间、基底、维度和秩(Subspaces, Basis, Dimension, and Rank)

至此，矩阵的基础代数运算已告一段落。从本节开始，我们将视角从“代数计算”切换到“几何空间”，深入探讨矩阵与向量空间之间的深刻联系。

让我们从一个直观的几何现象出发：在三维空间 $\mathbb{R}^3$ 中，想象一个通过原点的平面。直觉告诉我们这个平面是“二维”的，因为在这个平面内，任意向量的加法和标量乘法结果都会被“锁”在这个面内，形成一个封闭的运算体系。这就引出了一个问题，这个平面上的向量，究竟是二维还是三维物体？ 它们身处 $\mathbb{R}^3$ 之中，拥有三个坐标分量；但它们的活动范围却被严格限制在一个二维平面内。

为了在代数上精确刻画这种“身处高维空间，却自成一个低维封闭体系”的现象，我们正式引入本章的核心概念——子空间 $\text{(Subspace)}$。

```ad-definition
title:定义：子空间 (Subspace)
设 $S$ 是 $\mathbb{R}^n$ 中的一个非空集合。如果 $S$ 满足以下三个条件，则称 $S$ 为 $\mathbb{R}^n$ 的一个**子空间**：
1. **包含零向量 $\text{(Zero vector)}$**：零向量 $\vec{0}$ 属于 $S$。
2. **加法封闭性 $\text{(Closed under addition)}$**：如果 $\vec{u}$ 和 $\vec{v}$ 都在 $S$ 中，那么 $\vec{u} + \vec{v}$ 也必定在 $S$ 中。
3. **标量乘法封闭性 $\text{(Closed under scalar multiplication)}$**：如果 $\vec{u}$ 在 $S$ 中，且 $c$ 是任意实数标量，那么 $c\vec{u}$ 也必定在 $S$ 中。
```

我们可以把性质2、3结合起来，等价于要求 $S$ **对于线性组合封闭**：

假设 $\vec{u_1}, \vec{u_2}, \dots, \vec{u_k}$ 在 $S$ 中，并且 $c_1, c_2, \dots, c_k$ 为标量，那么 $c_1\vec{u_1}+c_2\vec{u_2}+\dots+c_k\vec{u_k}$ 也在 $S$
中。

```ad-theorem
title:定理: 子空间
设 $\vec{v}_1, \vec{v}_2, \dots, \vec{v}_k$ 是 $\mathbb{R}^n$ 中的向量，则 $\text{span}(\vec{v}_1, \vec{v}_2, \dots, \vec{v}_k)$ 是 $\mathbb{R}^n$ 的一个子空间。
```

**证明：**

令 $S = \text{span}(\vec{v}_1, \vec{v}_2, \dots, \vec{v}_k)$。验证性质 (1)，我们只需观察到零向量 $\vec{0}$ 在 $S$ 中，因为 $\vec{0} = 0\vec{v}_1 + 0\vec{v}_2 + \dots + 0\vec{v}_k$。

设

$$\vec{u} = c_1\vec{v}_1 + c_2\vec{v}_2 + \dots + c_k\vec{v}_k \quad \text{且} \quad \vec{v} = d_1\vec{v}_1 + d_2\vec{v}_2 + \dots + d_k\vec{v}_k$$

为 $S$ 中的两个向量。那么

$$\begin{aligned} \vec{u} + \vec{v} &= (c_1\vec{v}_1 + c_2\vec{v}_2 + \dots + c_k\vec{v}_k) + (d_1\vec{v}_1 + d_2\vec{v}_2 + \dots + d_k\vec{v}_k) \\ &= (c_1 + d_1)\vec{v}_1 + (c_2 + d_2)\vec{v}_2 + \dots + (c_k + d_k)\vec{v}_k \end{aligned}$$

因此，$\vec{u} + \vec{v}$ 也是 $\vec{v}_1, \vec{v}_2, \dots, \vec{v}_k$ 的线性组合，所以也在 $S$ 中。这就验证了性质 (2)。

为了验证性质 (3)，设 $c$ 为一个标量。那么

$$\begin{aligned} c\vec{u} &= c(c_1\vec{v}_1 + c_2\vec{v}_2 + \dots + c_k\vec{v}_k) \\ &= (cc_1)\vec{v}_1 + (cc_2)\vec{v}_2 + \dots + (cc_k)\vec{v}_k \end{aligned}$$

这表明 $c\vec{u}$ 也是 $\vec{v}_1, \vec{v}_2, \dots, \vec{v}_k$ 的线性组合，因此也在 $S$ 中。我们已经证明了 $S$ 满足性质 (1) 到 (3)，因此它是 $\mathbb{R}^n$ 的一个子空间。

我们将 $\text{span}(\vec{v}_1, \vec{v}_2, \dots, \vec{v}_k)$ 称为**由 $\vec{v}_1, \vec{v}_2, \dots, \vec{v}_k$ 生成的子空间**。

### 3.5.1 与矩阵相关的子空间 (Subspaces Associated with Matrices)

我们已经掌握了子空间 $\text{(Subspace)}$ 的概念，现在让我们从矩阵的视角，了解关于矩阵的子空间。其中最重要的三个矩阵的子空间，包括零空间 $\text{(Zero space)}$ 、行空间 $\text{(Row space)}$ 和列空间 $\text{(Column space)}$ 。

```ad-definition
title:定义: 行空间与列空间
设 $A$ 是一个 $m \times n$ 矩阵。
1. **行空间 $\text{(Row Space)}$**：由矩阵 $A$ 的所有**行向量**张成的 $\mathbb{R}^n$ 的子空间，记作 $\text{row}(A)$。
2. **列空间 $\text{(Column Space)}$**：由矩阵 $A$ 的所有**列向量**张成的 $\mathbb{R}^m$ 的子空间，记作 $\text{col}(A)$。
```

```ad-example
title:例题：判定向量是否属于行/列空间

已知矩阵 $A = \begin{bmatrix} 1 & -1 \\ 0 & 1 \\ 3 & -3 \end{bmatrix}$。

**问题 (a)：判断向量 $\mathbf{b} = \begin{bmatrix} 1 \\ 2 \\ 3 \end{bmatrix}$ 是否在 $A$ 的列空间 $\text{col}(A)$ 中？**
* **解题直觉**：转化为解方程 $A\mathbf{x} = \mathbf{b}$。
* **计算过程**：构造左右增广矩阵（注意竖线分割）并进行行化简：
$$ [A \mid \mathbf{b}] = \left[ \begin{array}{cc|c} 1 & -1 & 1 \\ 0 & 1 & 2 \\ 3 & -3 & 3 \end{array} \right] \xrightarrow{\text{行化简}} \left[ \begin{array}{cc|c} 1 & 0 & 3 \\ 0 & 1 & 2 \\ 0 & 0 & 0 \end{array} \right] $$
* **结论**：最后一行全为 0，方程一致（有解）。因此，$\mathbf{b}$ **在**列空间 $\text{col}(A)$ 中。

**问题 (b)：判断向量 $\mathbf{w} = \begin{bmatrix} 4 & 5 \end{bmatrix}$ 是否在 $A$ 的行空间 $\text{row}(A)$ 中？**
* **解题直觉**：如果 $\mathbf{w}$ 是 $A$ 的行向量的线性组合，那么把它拼在 $A$ 底部，用上方行变换消元，必然能把它消成全 0。
* **计算过程**：构造上下增广矩阵（注意底部的横线分割）并从上到下进行行消元：
$$ \begin{bmatrix} A \\ \mathbf{w} \end{bmatrix} = \left[ \begin{array}{cc} 1 & -1 \\ 0 & 1 \\ 3 & -3 \\ \hline 4 & 5 \end{array} \right] \xrightarrow[\text{消去下方元素}]{R_3 - 3R_1, R_4 - 4R_1} \left[ \begin{array}{cc} 1 & -1 \\ 0 & 1 \\ 0 & 0 \\ \hline 0 & 9 \end{array} \right] \xrightarrow{R_4 - 9R_2} \left[ \begin{array}{cc} 1 & -1 \\ 0 & 1 \\ 0 & 0 \\ \hline 0 & 0 \end{array} \right] $$
* **结论**：经过行变换，垫底的 $\mathbf{w}$ 成功被化成了全 0 行 $\begin{bmatrix} 0 & 0 \end{bmatrix}$。这证明了 $\mathbf{w}$ 确实是上方行的线性组合，因此 $\mathbf{w}$ **在**行空间 $\text{row}(A)$ 中。
```