证法一:作分块矩阵的初等变换,
\begin{equation*}
\begin{pmatrix}
E_n&0\\0&AB
\end{pmatrix}\rightarrow\begin{pmatrix}
E_n&0\\A&AB
\end{pmatrix}\rightarrow\begin{pmatrix}
E_n&-B\\A&0
\end{pmatrix}\rightarrow\begin{pmatrix}
A&0\\E_n&-B
\end{pmatrix}\rightarrow\begin{pmatrix}
A&0\\-E_n&B
\end{pmatrix},
\end{equation*}
所以
\begin{equation*}
r(E_n)+r(AB)=r(\begin{pmatrix}
A&0\\-E_n&B
\end{pmatrix}),
\end{equation*}
即
\begin{equation*}
r(AB)=r(\begin{pmatrix}
A&0\\-E_n&B
\end{pmatrix})-n.
\end{equation*}
注意到\(r(\begin{pmatrix}
A&0\\-E_n&B
\end{pmatrix})\geq r(A)+r(B)\),故
\begin{equation*}
r(AB)\geq r(A)+r(B)-n.
\end{equation*}
证法二:设\(r(A)=r\),则存在\(m\)阶可逆矩阵\(P\)与\(n\)阶可逆矩阵\(Q\)使得
\begin{equation*}
A=P \begin{pmatrix}
E_r&0\\0&0
\end{pmatrix}Q.
\end{equation*}
所以
\begin{equation*}
r(AB)=r(P\begin{pmatrix}
E_r&0\\0&0
\end{pmatrix}QB)=r(\begin{pmatrix}
E_r&0\\0&0
\end{pmatrix}QB).
\end{equation*}
设\(QB=\begin{pmatrix}
B_1\\B_2{}
\end{pmatrix}\),其中\(B_1\in\mathbb{F}^{r\times s},B_2\in\mathbb{F}^{(n-r)\times s}\),则\(\begin{pmatrix}
E_r&0\\0&0
\end{pmatrix}QB= \begin{pmatrix}
B_1\\0
\end{pmatrix}\)。从而
\begin{equation*}
r(AB)=r(\begin{pmatrix}
B_1\\0
\end{pmatrix})=r(B_1).
\end{equation*}
由作业
练习 2.3.2.12 知:
\(r(B_1)\geq r(QB)+r-n\),故
\(r(AB)\geq r(A)+r(B)-n\)。
证法三: 记\(S = \{X|ABX = 0\}\),则\(r(S) = s - r(AB) \)。
记\(S_1 =\{X|BX= 0 \}\),取\(S_1\)的一个极大无关组为\(\eta_1,\ldots,\eta_k\),其中\(k = s - r(B)\)。
注意到\(S\)也可以表示为\(S = \{X| BX=Y,\ AY=0\}\)。记 \(T = \{Y|AY = 0, \mbox{ 且}BX=Y\mbox{有解}\} \),取\(T\)的一个极大无关组为\(Y_1,\ldots, Y_t\)。因为 \(T\subseteq \{Y|AY=0\}\),所以\(t = r(T)\leq n - r(A)\)。
取\(\gamma_i\)为非齐次方程组\(BX = Y_i\)的一个特解,\(i=1,\ldots,t\)。下证向量组\(S\)可以由向量组\(\gamma_1,\ldots, \gamma_t,\eta_1,\ldots,\eta_k\)线性表出。任取\(X\in S\)。若\(BX=0\),根据齐次线性方程组解的结构定理,\(X\)可以由\(\eta_1,\ldots,\eta_k\)线性表出;若\(BX=Y_0\ne 0\),记\(Y_0 = \sum_{j=1}^t c_jY_j\),则\(B(\sum_{j=1}^t c_j \gamma_j) = Y_0\),即\(\sum_{j=1}^t c_j \gamma_j\)是\(BX=Y_0\)的一个特解,根据非齐次线性方程组解的结构定理,\(X\)可以由\(\gamma_1,\ldots, \gamma_t,\eta_1,\ldots,\eta_k\)线性表出。综上,\(T\)可以由向量组\(\gamma_1,\ldots, \gamma_t,\eta_1,\ldots,\eta_k\)线性表出。
于是,我们有
\begin{equation*}
s- r(AB) = r(S)\le r(\gamma_1,\ldots, \gamma_t,\eta_1,\ldots,\eta_k)\le t+k\le s-r(B)+n-r(A),
\end{equation*}
整理可得\(r(AB)\geq r(A)+r(B)-n\)。