节 5.3 标准正交基与Gram-Schmidt正交化过程
在\(\R^3\)中最常使用的基是\(i=(1,0,0)^T\)、\(j=(0,1,0)^T\)、\(k=(0,0,1)^T\)，这三个向量在空间直角坐标系中是两两正交且长度都为1的向量。本节将解释这样选取基的好处，并将相关的概念推广到一般的\(\R^n\)及其子空间上。
子节 5.3.1 标准正交基
设\(\alpha_1,\dots,\alpha_t\)是\(\R^n\)中的一组向量，若其中任意两个向量均正交，即对\(\forall i\ne j\)，
\begin{equation*}
\alpha_i\cdot\alpha_j =0,
\end{equation*}
则称这个向量组是一个正交向量组。
例 5.3.1.
定理 5.3.2.
若\(\alpha_1,\dots,\alpha_t\)是一个正交向量组，且没有0向量，则\(\alpha_1,\dots,\alpha_t\)线性无关。
证明.
由于非0正交向量组都是线性无关的，因此这组向量可以构成其生成子空间的一个基。称由正交向量组中的向量构成的基为正交基。下面的结论说明了正交基相对于普通基的优势。
定理 5.3.3.
设\((\alpha_1,\dots,\alpha_t)\)是\(\R^n\)子空间\(V\)的一组正交基，对\(\forall \beta\in V\)， 记
\begin{equation*}
\beta = c_1\alpha_1+\cdots+c_t\alpha_t,
\end{equation*}
则
\begin{equation}
c_j = \frac{\beta\cdot \alpha_j}{\alpha_j\cdot \alpha_j}, \quad j =1,\dots,t.\tag{5.3.1}
\end{equation}
例 5.3.4.
定义 5.3.5.
若\(\R^n\)中的向量组\(\alpha_1,\dots,\alpha_t\)是一个正交向量组，且对每一个向量\(\alpha_j(j=1,\dots,t)\)，
\begin{equation*}
\alpha_j\cdot \alpha_j = \|\alpha_j\|^2 =1,
\end{equation*}
则称\(\alpha_1,\dots,\alpha_t\)是一个标准正交向量组。称\((\alpha_1,\dots,\alpha_t)\)是\(V\)的一个标准正交基，其中
\begin{equation*}
V = \langle \alpha_1,\dots,\alpha_t\rangle.
\end{equation*}
推论 5.3.6.
设\((\alpha_1,\dots,\alpha_t)\)是\(\R^n\)子空间\(V\)的一组正交基，对\(\forall \beta\in V\)， 记
\begin{equation*}
\beta = c_1\alpha_1+\cdots+c_t\alpha_t,
\end{equation*}
则
\begin{equation}
c_j = \beta\cdot \alpha_j, \quad j =1,\dots,t.\tag{5.3.2}
\end{equation}
用内积来计算坐标要比解线性方程组方便很多，所以在内积空间中选择基时通常会选择标准正交基。下面要讨论的问题是如何从一般基出发来构造标准正交基。我们会发现，正交投影在正交基的构造过程中有很大帮助，因此接下来我们先来讨论正交投影该如何计算。
子节 5.3.2 正交投影的计算
设\(\alpha\)是一个非0列向量，则\(\alpha\)可以生成一个1维子空间\(L\)。为了方便，对另一个同维列向量\(\beta\)，把\(\beta\)在\(\alpha\)所生成空间上的投影\({\rm Proj}_L(\beta)\)也称为\(\beta\)在\(\alpha\)方向上的投影，记做\({\rm Proj}_\alpha(\beta)\)。
我们有下面的计算公式。
命题 5.3.7.
设\(\alpha,\beta\in \R^n\)，且\(\alpha\ne 0\)，则
\begin{equation*}
{\rm Proj}_\alpha(\beta)= \frac{\beta\cdot \alpha}{\alpha\cdot \alpha}\alpha.
\end{equation*}
特别地，若\(\|\alpha\|=1\)，则
\begin{equation*}
{\rm Proj}_\alpha(\beta)= (\beta\cdot \alpha)\alpha.
\end{equation*}
借助图 5.2.10，容易从几何上理解下面一个常用的重要事实。
定理 5.3.8.
对任意非0的同维列向量\(\alpha\)和\(\beta\)，
\begin{equation*}
\alpha \perp (\beta - {\rm Proj}_\alpha(\beta)).
\end{equation*}
把上述结论推广到高维子空间，可得如下定理。
定理 5.3.9.
设\((\alpha_1,\dots,\alpha_t)\)是\(\R^n\)子空间\(V\)的一组标准正交基，则对\(\forall \beta\in \R^n\)，
\begin{align*}
{\rm Proj}_V(\beta)\amp ={\rm Proj}_{\alpha_1}(\beta) +\cdots + {\rm Proj}_{\alpha_t}(\beta)\\
\amp = (\beta\cdot \alpha_1)\alpha_1 +\cdots + (\beta\cdot \alpha_t) \alpha_t,
\end{align*}
且
\begin{equation*}
\left(\beta -{\rm Proj}_V(\beta)\right) \perp V.
\end{equation*}
子节 5.3.3 Gram-Schmit标准正交化过程
Gram-Schmit标准正交化过程是一种用于生成标准正交向量组的常用算法。我们先来通过几个具体例子介绍一下它的基本过程。
例 5.3.10.
2个向量的情况
例 5.3.11.
3个向量的情况
下面我们给出一般的结论。
定理 5.3.12.
设\(\alpha_1,\dots ,\alpha_s\)是\(\R^n\)中的一个线性无关向量组，则必存在标准正交向量组\(\gamma_1,\dots,\gamma_s\)，使得对于任意的\(r(1\leq r\leq s)\)，总有
\begin{equation*}
\langle\alpha_1,\dots ,\alpha_r\rangle=\langle\gamma_1,\dots ,\gamma_r\rangle.
\end{equation*}
证明.
我们给出一个算法，用来计算满足条件的\(\gamma\)向量组。这个计算过程称为Gram-Schmidt正交化过程。
Gram-Schmidt正交化过程可以按下面的步骤进行：
- 先把线性无关的向量组\(\alpha_1,\dots ,\alpha_s\)化成正交向量组\(\beta_1,\dots ,\beta_s\)，令\begin{equation*} \begin{array}{ccl} \beta_1&=&\alpha_1,\\ \beta_2&=&\alpha_2-\frac{\alpha_2\cdot\beta_1}{\beta_1\cdot\beta_1}\beta_1,\\ \beta_3&=&\alpha_3-\frac{\alpha_3\cdot\beta_1}{\beta_1\cdot\beta_1}\beta_1-\frac{\alpha_3\cdot\beta_2}{\beta_2\cdot\beta_2}\beta_2,\\ &\vdots&\\ \beta_s&=&\alpha_s-\frac{\alpha_s\cdot\beta_1}{\beta_1\cdot\beta_1}\beta_1-\frac{\alpha_s\cdot\beta_2}{\beta_2\cdot\beta_2}\beta_2-\cdots -\frac{\alpha_s\cdot\beta_{s-1}}{\beta_{s-1}\cdot\beta_{s-1}}\beta_{s-1};\\ \end{array} \end{equation*}
- 再单位化，令\begin{equation*} \gamma_i=\frac{1}{\|\beta_i\|}\beta_i,\ i=1,2,\cdots ,s, \end{equation*}则容易验证标准正交向量组\(\gamma_1,\dots ,\gamma_s\)满足\begin{equation*} \langle\alpha_1,\dots ,\alpha_r\rangle=\langle\gamma_1,\dots ,\gamma_r\rangle ,r=1,\dots ,s. \end{equation*}
线性无关性可以保证Gram-Schmidt正交化过程中的\(\beta_1,\dots,\beta_s\)均不为0（为什么？），从而使整个过程能进行下去。注意到这个过程对向量组\(\alpha_1,\dots ,\alpha_s\)的要求只有线性无关性，所以有下面的推论。
推论 5.3.13.
\(\R^n\)的任意非0子空间必有标准正交基。
推论 5.3.14.
在\(\R^n\)的任意非0子空间\(V\)中，任意标准正交向量组都可扩为\(V\)的标准正交基。
