定义 7.2.1.
设\(U\)是\(V\)的子空间，\(\phi\in \mathcal{L}(V)\)，且满足\(\phi(U)\subseteq U\)，则称\(U\)是\(\phi\)-不变子空间 或\(\phi\)-子空间 。
将\(\phi\)限制在\(U\)上，导出\(U\)的线性变换，称为\(\phi\)在\(U\)上的导出变换 (或称为\(\phi\)在\(U\)上的限制变换)， 记为\({\color{red}\phi|_U}\)。
节 7.2 不变子空间
直观感觉上，一个空间的结构越简单，其上的线性变换也会越简单。根据**线性同构基本定理**，数域\(\F\)上线性空间的结构是由其维数决定的，维数越小的空间结构越简单。在 **第6章内容** 中证明了1维线性空间上的线性映射都可以等同于数乘一个固定常数这种简单的操作，部分验证了这种直观感觉。
本节中，我们将尝试把一个大空间\(V\)上的线性变换\(\phi\)部分限制在\(V\)的子空间上去理解。可以这样的限制的子空间就是我们接下来要讲的不变子空间。
子节 7.2.1 不变子空间的定义与举例
\(\phi\)与\(\phi|_U\)的相同点是在\(U\)上对应法则一样；不同点是\(\phi\)是\(V\)的线性变换；而\(\phi|_U\)是\(U\)的线性变换。
定义中\(U\)是\(\phi\)的不变子空间这个条件是必不可少的。否则，若\(\phi(U)\not\subseteq U\)，则对应法则\(\phi\)无法限制成为\(U\to U\)的映射，相应地也无法导出\(U\)上的线性变换。
例 7.2.2. 4种平凡的不变子空间.
设\(\phi\in \mathcal{L}(V)\)，证明下面4种\(V\)的子空间（可以相同）都是\(\phi\)-不变子空间：
- 0空间；
- \(V\)空间本身；
- 像空间\({\rm Im}\phi\)；
- 核空间\({\rm Ker}\phi\)。
解答.
子节 7.2.2 不变子空间与表示矩阵化简
接下来我们从表示矩阵的角度来理解不变子空间及其带来的好处。
设\(\phi\in\mathcal{L}(V)\)，\(U\)是\(\phi\)的不变子空间。设\((\xi_1,\ldots,\xi_r)\)是\(U\)的一个基，将其扩充为\(V\)的一个基\((\xi_1,\ldots,\xi_r,\xi_{r+1},\ldots,\xi_n)\)。注意到\(U\)是\(\phi\)的不变子空间，对任意的 \(i=1,\dots, r \)， \(\phi(\xi_i)\in U\)，即\(\phi(\xi_i)\)在\(V\)空间基\((\xi_1,\ldots,\xi_n)\)坐标的后 \(n-r\)个分量必定为0， 于是\(\phi\)在基\((\xi_1,\ldots,\xi_n)\)下的矩阵有如下的形式：
\begin{equation}
\begin{pmatrix}
a_{1,1} & \cdots & a_{1,r} & a_{1,r+1} & \cdots & a_{1,n}\\
\vdots &\ddots & \vdots & \vdots & \ddots & \vdots\\
a_{r,1} & \cdots & a_{r,r} & a_{r,r+1} & \cdots & a_{r,n}\\
\alert{0} & \alert{\cdots} & \alert{0} & a_{r+1,r+1} & \cdots & a_{r+1,n}\\
\alert{\vdots} &\alert{\ddots} & \alert{\vdots} & \vdots & \ddots & \vdots\\
\alert{0} & \alert{\cdots} & \alert{0} & a_{n,r+1} & \cdots & a_{n,n}\\
\end{pmatrix}.\tag{7.2.1}
\end{equation}
反之，若\(\phi\)在基\((\xi_1,\ldots,\xi_r,\xi_{r+1},\ldots,\xi_n)\)下的矩阵形式为(7.2.1)，则\(\langle \xi_1,\ldots,\xi_r\rangle\)也一定是一个\(\phi\)-子空间。
进一步地，设\(\phi\)是\(n\)维线性空间\(V\)的线性变换，\(V=V_1\oplus V_2\)，且\(V_1\)与\(V_2\)均是\(\phi\)-子空间，取\((\xi_1,\ldots,\xi_r)\)是\(V_1\)的基，\((\xi_{r+1},\ldots,\xi_n)\)是\(V_2\)的基，则\(\phi\)在基\((\xi_1,\ldots,\xi_r,\xi_{r+1},\ldots,\xi_n)\)下的矩阵必定形如
\begin{equation}
\begin{pmatrix}
A_1 & 0\\
0 & A_2
\end{pmatrix}\tag{7.2.2}
\end{equation}
其中\(A_1\)是\(r\)阶方阵，\(A_2\)是\(n-r\)阶方阵。
\begin{equation*}
V_1=\langle \xi_1,\ldots,\xi_r\rangle,\ \ V_2=\langle \xi_{r+1},\ldots,\xi_n\rangle ,
\end{equation*}
则\(V_1\)、\(V_2\)都是\(\phi\)-子空间，且
\begin{equation*}
V = V_1\oplus V_2.
\end{equation*}
综合上述讨论，我们有下面一个一般结论。
定理 7.2.3.
设\(\phi\in\mathcal{L} (V)\)，则\(\phi\)在\(V\)的某个基下矩阵是分块对角矩阵等价于\(V\)可分解为一些\(\phi\)-子空间的直和。
