1.矩阵代数

第一节 矩阵及其运算

定义

由 $m\times n$ 个数排成的 $m$ 行 $n$ 列矩形数表称为 $m\times n$ 矩阵：

$$A=\left(\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1n}\\ a_{21}& a_{22}& \cdots & a_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ a_{m1}& a_{m2}& \cdots & a_{mn}\end{array}\right)$$

简记为 $A=(a_{ij}{)}_{m\times n}$。$m=n$ 时称为 $n$ 阶方阵。

例：

$$A={\left(\begin{array}{ccc}1& 2& 3\\ 4& 5& 6\end{array}\right)}_{2\times 3}$$

加法、数乘、乘法

加法：同型矩阵对应元素相加。

$$\left(\begin{array}{cc}1& 2\\ 3& 4\end{array}\right)+\left(\begin{array}{cc}5& 6\\ 7& 8\end{array}\right)=\left(\begin{array}{cc}6& 8\\ 10& 12\end{array}\right)$$

数乘：标量 $k$ 乘以每个元素。

$$3\left(\begin{array}{cc}1& 2\\ 3& 4\end{array}\right)=\left(\begin{array}{cc}3& 6\\ 9& 12\end{array}\right)$$

乘法：$A_{m\times n}$ 与 $B_{n\times p}$ 相乘得 $C_{m\times p}$，其中

$$c_{ij}=\sum _{k=1}^n{a}_{ik}{b}_{kj}$$

例：

$$\left(\begin{array}{cc}1& 2\\ 3& 4\end{array}\right)\left(\begin{array}{cc}0& 1\\ 1& 0\end{array}\right)=\left(\begin{array}{cc}2& 1\\ 4& 3\end{array}\right)$$

[!warning] 注意 矩阵乘法一般不满足交换律，$AB\ne BA$。

结合律和分配律

结合律：$(AB)C=A(BC)$

左分配律：$A(B+C)=AB+AC$

右分配律：$(A+B)C=AC+BC$

数乘结合律：$k(AB)=(kA)B=A(kB)$

转置

将矩阵的行列互换得到转置矩阵，$(A^{\mathrm{T}}{)}_{ij}=A_{ji}$。

例：

$$A=\left(\begin{array}{ccc}1& 2& 3\\ 4& 5& 6\end{array}\right),A^{\mathrm{T}}=\left(\begin{array}{cc}1& 4\\ 2& 5\\ 3& 6\end{array}\right)$$

规律：

• $(A^{\mathrm{T}}{)}^{\mathrm{T}}=A$
• $(A+B{)}^{\mathrm{T}}=A^{\mathrm{T}}+B^{\mathrm{T}}$
• $(kA{)}^{\mathrm{T}}=k{A}^{\mathrm{T}}$
• $(AB{)}^{\mathrm{T}}=B^{\mathrm{T}}{A}^{\mathrm{T}}$

分块矩阵

用纵横线将矩阵分割为若干子块，子块视为元素参与运算。

例：

$$A=\left(\begin{array}{ccc}1& 0& 2\\ 0& 1& 3\\ 4& 5& 6\end{array}\right)=\left(\begin{array}{cc}{I}_2& B\\ C& D\end{array}\right),B=\left(\begin{array}{c}2\\ 3\end{array}\right)$$

分块乘法：子块按普通矩阵乘法规则运算，要求子块间乘法有意义。分块矩阵转置需将各子块整体转置且交换子块位置。

第二节 初等变换和初等方阵

三种初等行变换对应三类初等方阵（对 $n$ 阶单位矩阵施行一次初等变换得到）：

类型 1：交换两行 $R_i\leftrightarrow R_j$

$$E(i,j)=\left(\begin{array}{ccccccc}1& & & & & & \\ & \ddots & & & & & \\ & & 0& \cdots & 1& & \\ & & ⋮& \ddots & ⋮& & \\ & & 1& \cdots & 0& & \\ & & & & & \ddots & \\ & & & & & & 1\end{array}\right)$$

例（$n=3,i=1,j=2$）：

$$E(1,2)=\left(\begin{array}{ccc}0& 1& 0\\ 1& 0& 0\\ 0& 0& 1\end{array}\right)$$

类型 2：某行乘非零常数 $R_i\to k{R}_i$

$$E(i(k))=\left(\begin{array}{ccccc}1& & & & \\ & \ddots & & & \\ & & k& & \\ & & & \ddots & \\ & & & & 1\end{array}\right)$$

例（$n=3,i=2,k=3$）：

$$E(2(3))=\left(\begin{array}{ccc}1& 0& 0\\ 0& 3& 0\\ 0& 0& 1\end{array}\right)$$

类型 3：某行加另一行的 $k$ 倍 $R_i\to R_i+k{R}_j$

$$E(i,j(k))=\left(\begin{array}{ccccc}1& & & & \\ & \ddots & & & \\ & & 1& \cdots & k\\ & & & \ddots & ⋮\\ & & & & 1\end{array}\right)$$

例（$n=3,i=2,j=1,k=2$）：

$$E(2,1(2))=\left(\begin{array}{ccc}1& 0& 0\\ 2& 1& 0\\ 0& 0& 1\end{array}\right)$$

左乘初等方阵等价于对行施行相应初等变换；右乘等价于对列施行相应初等变换。

例：

$$E(1,2)A=\left(\begin{array}{cc}0& 1\\ 1& 0\end{array}\right)\left(\begin{array}{cc}a& b\\ c& d\end{array}\right)=\left(\begin{array}{cc}c& d\\ a& b\end{array}\right)$$

相关：行列式的初等变换 | 逆的定义

第三节 矩阵的逆

逆的定义

对 $n$ 阶方阵 $A$，若存在 $n$ 阶方阵 $B$ 使 $AB=BA=I_n$，则称 $A$ 可逆，$B$ 为 $A$ 的逆矩阵，记作 $A^{-1}$。

例：

$$A=\left(\begin{array}{cc}1& 2\\ 3& 4\end{array}\right),A^{-1}=\left(\begin{array}{cc}-2& 1\\ 1.5& -0.5\end{array}\right)$$

验证：

$$A{A}^{-1}=\left(\begin{array}{cc}1& 2\\ 3& 4\end{array}\right)\left(\begin{array}{cc}-2& 1\\ 1.5& -0.5\end{array}\right)=\left(\begin{array}{cc}1& 0\\ 0& 1\end{array}\right)=I_2$$

相关：伴随矩阵求逆 | 逆的计算

逆的性质

• $(A^{-1}{)}^{-1}=A$
• $(AB{)}^{-1}=B^{-1}{A}^{-1}$
• $(A^{\mathrm{T}}{)}^{-1}=(A^{-1}{)}^{\mathrm{T}}$
• $A$ 可逆 $\iff |A|\ne 0$
• $(kA{)}^{-1}=\frac{1}{k}{A}^{-1}(k\ne 0)$

等价矩阵

若 $A$ 经有限次初等变换可化为 $B$，则 $A$ 与 $B$ 等价，记作 $A\cong B$。等价矩阵具有相同的秩。

阶梯型矩阵和简化阶梯形矩阵

行阶梯形矩阵：零行在底部，每行首个非零元（主元）的列标随行号严格递增。

例：

$$\left(\begin{array}{cccc}1& 2& 3& 4\\ 0& 0& 1& 5\\ 0& 0& 0& 0\end{array}\right)$$

简化行阶梯形矩阵：每个主元为 $1$，且主元所在列其他元素全为 $0$。

例：

$$\left(\begin{array}{cccc}1& 0& 0& 0\\ 0& 1& 0& 0\\ 0& 0& 1& 0\end{array}\right)$$

完整过程示例：将 $A$ 化为简化行阶梯形矩阵。

$$A=\left(\begin{array}{cccc}1& 2& 1& 1\\ 2& 4& 1& 3\\ 1& 3& 2& 2\end{array}\right)$$

第一步，消去 $(2,1)$ 和 $(3,1)$：

$$\left(\begin{array}{cccc}1& 2& 1& 1\\ 2& 4& 1& 3\\ 1& 3& 2& 2\end{array}\right)\underset{R_3-R_1}{\overset{R_2-2R_1}{\to }}\left(\begin{array}{cccc}1& 2& 1& 1\\ 0& 0& -1& 1\\ 0& 1& 1& 1\end{array}\right)$$

第二步，交换第 2、3 行使主元列标递增：

$$\left(\begin{array}{cccc}1& 2& 1& 1\\ 0& 0& -1& 1\\ 0& 1& 1& 1\end{array}\right)\stackrel{R_2\leftrightarrow R_3}{\to }\left(\begin{array}{cccc}1& 2& 1& 1\\ 0& 1& 1& 1\\ 0& 0& -1& 1\end{array}\right)$$

此时已化为行阶梯形矩阵。

第三步，将各主元化为 $1$：

$$\left(\begin{array}{cccc}1& 2& 1& 1\\ 0& 1& 1& 1\\ 0& 0& -1& 1\end{array}\right)\stackrel{-R_3}{\to }\left(\begin{array}{cccc}1& 2& 1& 1\\ 0& 1& 1& 1\\ 0& 0& 1& -1\end{array}\right)$$

第四步，从最后一列开始，逐列消去主元上方的元素：

$$\begin{array}{rl}& \left(\begin{array}{cccc}1& 2& 1& 1\\ 0& 1& 1& 1\\ 0& 0& 1& -1\end{array}\right)\stackrel{R_1-R_3,R_2-R_3}{\to }\left(\begin{array}{cccc}1& 2& 0& 2\\ 0& 1& 0& 2\\ 0& 0& 1& -1\end{array}\right)\\ & \stackrel{R_1-2R_2}{\to }\left(\begin{array}{cccc}1& 0& 0& -2\\ 0& 1& 0& 2\\ 0& 0& 1& -1\end{array}\right)\end{array}$$

得到简化行阶梯形矩阵（RREF）。

逆的计算

用初等行变换求 $A^{-1}$：构造 $(A\mid I)$，对行施行初等变换，左侧化为 $I$ 时右侧即为 $A^{-1}$。

例：求 $A=\left(\begin{array}{cc}1& 2\\ 3& 4\end{array}\right)$ 的逆。

$$\begin{array}{rl}& \left(\begin{array}{cccc}1& 2& 1& 0\\ 3& 4& 0& 1\end{array}\right)\stackrel{R_2-3R_1}{\to }\left(\begin{array}{cccc}1& 2& 1& 0\\ 0& -2& -3& 1\end{array}\right)\\ & \stackrel{-\frac{1}{2}{R}_2}{\to }\left(\begin{array}{cccc}1& 2& 1& 0\\ 0& 1& \frac{3}{2}& -\frac{1}{2}\end{array}\right)\stackrel{R_1-2R_2}{\to }\left(\begin{array}{cccc}1& 0& -2& 1\\ 0& 1& \frac{3}{2}& -\frac{1}{2}\end{array}\right)\end{array}$$

因此 $A^{-1}=\left(\begin{array}{cc}-2& 1\\ \frac{3}{2}& -\frac{1}{2}\end{array}\right)$。

第四节 线性方程组

线性方程组的表示

$m$ 个方程、$n$ 个未知数的线性方程组的一般形式：

$$\{\begin{array}{l}{a}_{11}{x}_1+a_{12}{x}_2+\cdots +a_{1n}{x}_n=b_1\\ a_{21}{x}_1+a_{22}{x}_2+\cdots +a_{2n}{x}_n=b_2\\ ⋮\\ a_{m1}{x}_1+a_{m2}{x}_2+\cdots +a_{mn}{x}_n=b_m\end{array}$$

矩阵形式 $A\mathbf{x}=\mathbf{b}$，其中 $A=(a_{ij}{)}_{m\times n}$ 为系数矩阵，$\mathbf{x}=(x_1,\dots ,x_n{)}^{\mathrm{T}}$，$\mathbf{b}=(b_1,\dots ,b_m{)}^{\mathrm{T}}$。增广矩阵为 $(A\mid \mathbf{b})$。

解的个数

三个可能情况：

• 唯一解：方程组恰有一组解。
• 无解：方程组矛盾，不存在任何解。
• 无穷多解：存在自由参数，解不唯一。

例（三个情况的几何直观）：

$$\begin{array}{rlrl}& x_1+x_2=2,x_1-x_2=0& & \text{两直线交于一点，唯一解}\\ & x_1+x_2=2,2x_1+2x_2=1& & \text{两直线平行，无解}\\ & x_1+x_2=2,2x_1+2x_2=4& & \text{两直线重合，无穷多解}\end{array}$$

高斯消元法

步骤：写出增广矩阵 $(A\mid \mathbf{b})$，通过初等行变换化为 RREF，从 RREF 读出解。

例 1（唯一解）：

$$\{\begin{array}{l}{x}_1+2x_2+x_3=1\\ 2x_1+4x_2+x_3=3\\ x_1+3x_2+2x_3=2\end{array}$$

增广矩阵并化为 RREF（过程同 完整过程示例）：

$$(A\mid \mathbf{b})=\left(\begin{array}{cccc}1& 2& 1& 1\\ 2& 4& 1& 3\\ 1& 3& 2& 2\end{array}\right)⟶\left(\begin{array}{cccc}1& 0& 0& -2\\ 0& 1& 0& 2\\ 0& 0& 1& -1\end{array}\right)$$

RREF 直接读出解：$x_1=-2,x_2=2,x_3=-1$。

例 2（无解）：

$$\{\begin{array}{l}{x}_1+x_2=1\\ 2x_1+2x_2=3\end{array}$$ $$\left(\begin{array}{ccc}1& 1& 1\\ 2& 2& 3\end{array}\right)\stackrel{R_2-2R_1}{\to }\left(\begin{array}{ccc}1& 1& 1\\ 0& 0& 1\end{array}\right)$$

末行对应 $0=1$，方程矛盾，故无解。

例 3（无穷多解）：

$$\{\begin{array}{l}{x}_1+x_2+x_3=1\\ 2x_1+2x_2+2x_3=2\end{array}$$ $$\left(\begin{array}{cccc}1& 1& 1& 1\\ 2& 2& 2& 2\end{array}\right)\stackrel{R_2-2R_1}{\to }\left(\begin{array}{cccc}1& 1& 1& 1\\ 0& 0& 0& 0\end{array}\right)$$

RREF 末行为全零行，无矛盾。$x_2,x_3$ 为自由变量，取 $x_2=s,x_3=t$，则 $x_1=1-s-t$，解为：

$$\mathbf{x}=\left(\begin{array}{c}1\\ 0\\ 0\end{array}\right)+s\left(\begin{array}{c}-1\\ 1\\ 0\end{array}\right)+t\left(\begin{array}{c}-1\\ 0\\ 1\end{array}\right),s,t\in \mathbb{R}$$

非零行与解的关系

$m$ 个方程 $n$ 个未知数的增广矩阵化为 RREF 后，一般形式为：

$$\left(\begin{array}{cccccccc}1& 0& \cdots & 0& \ast & \cdots & \ast & d_1\\ 0& 1& \cdots & 0& \ast & \cdots & \ast & d_2\\ ⋮& ⋮& \ddots & ⋮& ⋮& \ddots & ⋮& ⋮\\ 0& 0& \cdots & 1& \ast & \cdots & \ast & d_r\\ 0& 0& \cdots & 0& 0& \cdots & 0& d_{r+1}\\ ⋮& ⋮& \ddots & ⋮& ⋮& \ddots & ⋮& ⋮\\ 0& 0& \cdots & 0& 0& \cdots & 0& 0\end{array}\right)$$

其中前 $r$ 行为非零行（含主元 $1$），后 $m-r$ 行为全零行。解的个数由下式决定：

• $d_{r+1}\ne 0$：出现 $(0\cdots 0|d_{r+1})$ 矛盾行，无解；
• $d_{r+1}=0$（即无矛盾行）：
  • $r=n$：所有变量都是主元变量，唯一解；
  • $r<n$：有 $n-r$ 个自由变量，无穷多解。

齐次线性方程组

$A\mathbf{x}=0$，即 $\mathbf{b}=0$ 的情形。齐次方程组必有零解 $\mathbf{x}=0$。

解的情况：

• 仅有零解：RREF 中所有列都是主元列，无自由变量。
• 有非零解：RREF 中存在自由变量（即主元数 < 未知数个数），此时有非零解且有无穷多解。

例 1（仅有零解）：

$$\{\begin{array}{l}{x}_1+2x_2+x_3=0\\ 2x_1+4x_2+x_3=0\\ x_1+3x_2+2x_3=0\end{array}\Rightarrow \left(\begin{array}{cccc}1& 0& 0& 0\\ 0& 1& 0& 0\\ 0& 0& 1& 0\end{array}\right)\Rightarrow \mathbf{x}=0$$

例 2（有非零解）：

$$\{\begin{array}{l}{x}_1+x_2+x_3=0\\ 2x_1+2x_2+2x_3=0\end{array}\Rightarrow \left(\begin{array}{cccc}1& 1& 1& 0\\ 0& 0& 0& 0\end{array}\right)$$

$x_2,x_3$ 自由，取 $x_2=s,x_3=t$，则 $x_1=-s-t$：

$$\mathbf{x}=s\left(\begin{array}{c}-1\\ 1\\ 0\end{array}\right)+t\left(\begin{array}{c}-1\\ 0\\ 1\end{array}\right),s,t\in \mathbb{R}$$

2.行列式

第一节 定义

逆序对定义

设 $\sigma$ 为 $\{1,2,\dots ,n\}$ 上的一个排列。若 $i<j$ 但 $\sigma (i)>\sigma (j)$，则称 $(i,j)$ 为一个逆序对。排列 $\sigma$ 的符号为 $\mathrm{sgn}(\sigma )=(-1{)}^{\text{逆序数}}$。

$n$ 阶方阵 $A=(a_{ij})$ 的行列式定义为：

$$\det A=\sum _{\sigma \in S_n}\mathrm{sgn}(\sigma )\prod _{i=1}^n{a}_{i,\sigma (i)}$$

2 阶：

$$\left|\begin{array}{cc}{a}_{11}& a_{12}\\ a_{21}& a_{22}\end{array}\right|=a_{11}{a}_{22}-a_{12}{a}_{21}$$

3 阶：

$$\left|\begin{array}{ccc}{a}_{11}& a_{12}& a_{13}\\ a_{21}& a_{22}& a_{23}\\ a_{31}& a_{32}& a_{33}\end{array}\right|=a_{11}{a}_{22}{a}_{33}+a_{12}{a}_{23}{a}_{31}+a_{13}{a}_{21}{a}_{32}-a_{11}{a}_{23}{a}_{32}-a_{12}{a}_{21}{a}_{33}-a_{13}{a}_{22}{a}_{31}$$

上三角阵

上三角矩阵 $A$（即 $i>j$ 时 $a_{ij}=0$）的行列式等于对角元乘积。

$$\left|\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1n}\\ 0& a_{22}& \cdots & a_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ 0& 0& \cdots & a_{nn}\end{array}\right|=a_{11}{a}_{22}\cdots a_{nn}$$

因只有恒等排列 $\sigma (i)=i$ 不包含 $i>j$ 位置的元素，其余排列均含下三角零元。

第二节 行列式的性质

行列式的初等变换

对 $n$ 阶方阵 $A$，三种初等行变换对行列式的影响：

1. 交换两行 $R_i\leftrightarrow R_j$：行列式变号，$\det (E(i,j)A)=-\det A$。

   从排列定义看：交换两行后，每个排列 $\sigma$ 的奇偶性反转，故每项符号取反。

2. 某行乘 $k$ $R_i\to k{R}_i$：行列式变为 $k$ 倍，$\det (E(i(k))A)=k\det A$。

   每项 $\prod a_{i,\sigma (i)}$ 中恰有一个因子来自第 $i$ 行，乘以 $k$ 后整项扩大 $k$ 倍。

3. 某行加另一行的 $k$ 倍 $R_i\to R_i+k{R}_j$：行列式不变，$\det (E(i,j(k))A)=\det A$。

   由多重线性性，拆成两项：原行列式 + 第 $i,j$ 行成比例的零行列式。

对应的初等方阵行列式：$\det E(i,j)=-1$、$\det E(i(k))=k$、$\det E(i,j(k))=1$。

相关：初等变换和初等方阵

方阵乘积的行列式

对任意 $n$ 阶方阵 $A,B$，有：

$$\boxed{\det (AB)=\det A\cdot \det B}$$

推论：若 $A$ 可逆，则 $\det (A^{-1})=(\det A{)}^{-1}$。

第三节 行列式的展开

代数余子式

去掉 $A$ 的第 $i$ 行第 $j$ 列后得到的 $n-1$ 阶子式称为余子式 $M_{ij}$。代数余子式为：

$$A_{ij}=(-1{)}^{i+j}{M}_{ij}$$

例：

$$A=\left(\begin{array}{ccc}1& 2& 3\\ 4& 5& 6\\ 7& 8& 9\end{array}\right),M_{11}=\left|\begin{array}{cc}5& 6\\ 8& 9\end{array}\right|=45-48=-3,A_{11}=(-1{)}^{1+1}(-3)=-3$$

按行展开

$n$ 阶行列式等于第 $i$ 行各元素与其代数余子式乘积之和：

$$\boxed{\det A=\sum _{j=1}^n{a}_{ij}{A}_{ij}}$$

例（按第一行展开 $3\times 3$ 行列式）：

$$\begin{array}{rl}\left|\begin{array}{ccc}{a}_{11}& a_{12}& a_{13}\\ a_{21}& a_{22}& a_{23}\\ a_{31}& a_{32}& a_{33}\end{array}\right|& =a_{11}{A}_{11}+a_{12}{A}_{12}+a_{13}{A}_{13}\\ & =a_{11}\left|\begin{array}{cc}{a}_{22}& a_{23}\\ a_{32}& a_{33}\end{array}\right|-a_{12}\left|\begin{array}{cc}{a}_{21}& a_{23}\\ a_{31}& a_{33}\end{array}\right|+a_{13}\left|\begin{array}{cc}{a}_{21}& a_{22}\\ a_{31}& a_{32}\end{array}\right|\end{array}$$

相关：代数余子式 | 拉普拉斯展开 | 伴随矩阵求逆

范德蒙德行列式

[!abstract] 范德蒙德行列式

$$V_n=\left|\begin{array}{cccc}1& 1& \cdots & 1\\ x_1& x_2& \cdots & x_n\\ x_1^2& x_2^2& \cdots & x_n^2\\ ⋮& ⋮& \ddots & ⋮\\ x_1^{n-1}& x_2^{n-1}& \cdots & x_n^{n-1}\end{array}\right|=\prod _{1\le i<j\le n}(x_j-x_i)$$

证明（归纳法）：$n=2$ 时 $V_2=x_2-x_1$ 成立。假设 $n-1$ 阶成立。将 $V_n$ 视为 $x_n$ 的 $n-1$ 次多项式。当 $x_n=x_k(k=1,\dots ,n-1)$ 时，第 $n$ 列与第 $k$ 列相同，$V_n=0$，故 $x_n-x_k$ 是 $V_n$ 的因式。由归纳假设：

$$V_n=V_{n-1}\cdot \prod _{k=1}^{n-1}(x_n-x_k)=\prod _{1\le i<j\le n-1}(x_j-x_i)\cdot \prod _{k=1}^{n-1}(x_n-x_k)=\prod _{1\le i<j\le n}(x_j-x_i)$$

拉普拉斯展开

[!abstract] 拉普拉斯展开

将行列式按指定的 $k$ 行展开：取定行指标集 $I=\{i_1,i_2,\dots ,i_k\}$，设 $I^c$ 为补集，则

$$\det A=\sum _{1\le j_1<\cdots <j_k\le n}\det A[I,J]\cdot (-1{)}^{\sum I+\sum J}\cdot \det A[I^c,J^c]$$

其中 $J=\{j_1,\dots ,j_k\}$，$J^c$ 为 $J$ 的补集，$A[I,J]$ 表示取 $I$ 行 $J$ 列的子矩阵。$k=1$ 时退化为 按行展开。

例（$4\times 4$ 按前两行展开）：

$$A=\left(\begin{array}{cccc}2& 1& 0& 0\\ 1& 2& 1& 0\\ 0& 1& 2& 1\\ 0& 0& 1& 2\end{array}\right)$$

取 $I=\{1,2\}$，需枚举 $J=\{j_1,j_2\}$ 共 $\left(\genfrac{}{}{0ex}{}{4}{2}\right)=6$ 种组合。非零项只有两组：

$(j_1,j_2)=(1,2)$：

$$\det A[I,J]=\left|\begin{array}{cc}2& 1\\ 1& 2\end{array}\right|=3,\det A[I^c,J^c]=\left|\begin{array}{cc}2& 1\\ 1& 2\end{array}\right|=3$$

符号 $(-1{)}^{1+2+1+2}=1$，该项为 $3\cdot 3=9$。

$(j_1,j_2)=(1,3)$：

$$\det A[I,J]=\left|\begin{array}{cc}2& 0\\ 1& 1\end{array}\right|=2,\det A[I^c,J^c]=\left|\begin{array}{cc}1& 1\\ 0& 2\end{array}\right|=2$$

符号 $(-1{)}^{1+2+1+3}=-1$，该项为 $2\cdot (-1)\cdot 2=-4$。

其余组合 $\{(1,4),(2,3),(2,4),(3,4)\}$ 子式中均含零列故为零。求和得 $\det A=9-4=5$。

第四节

伴随矩阵求逆

$A$ 的伴随矩阵 $\mathrm{adj}(A)$ 是各元素代数余子式的转置：

$$\mathrm{adj}(A)=(A_{ji}{)}_{n\times n}$$

$A$ 可逆时：

$$\boxed{A^{-1}=\frac{1}{\det A}\mathrm{adj}(A)}$$

例（$3\times 3$）：

$$A=\left(\begin{array}{ccc}1& 2& 1\\ 2& 4& 1\\ 1& 3& 2\end{array}\right)$$

计算各代数余子式：

$$\begin{array}{rlr}{A}_{11}=+\left|\begin{array}{cc}4& 1\\ 3& 2\end{array}\right|=5,& A_{12}=-\left|\begin{array}{cc}2& 1\\ 1& 2\end{array}\right|=-3,& A_{13}=+\left|\begin{array}{cc}2& 4\\ 1& 3\end{array}\right|=2\\ A_{21}=-\left|\begin{array}{cc}2& 1\\ 3& 2\end{array}\right|=-1,& A_{22}=+\left|\begin{array}{cc}1& 1\\ 1& 2\end{array}\right|=1,& A_{23}=-\left|\begin{array}{cc}1& 2\\ 1& 3\end{array}\right|=-1\\ A_{31}=+\left|\begin{array}{cc}2& 1\\ 4& 1\end{array}\right|=-2,& A_{32}=-\left|\begin{array}{cc}1& 1\\ 2& 1\end{array}\right|=1,& A_{33}=+\left|\begin{array}{cc}1& 2\\ 2& 4\end{array}\right|=0\end{array}$$ $$\mathrm{adj}(A)=(A_{ji}{)}^{\mathrm{T}}=\left(\begin{array}{ccc}5& -1& -2\\ -3& 1& 1\\ 2& -1& 0\end{array}\right),\det A=1\cdot 5+2\cdot (-3)+1\cdot 2=1$$ $$A^{-1}=\frac{1}{\det A}\mathrm{adj}(A)=\left(\begin{array}{ccc}5& -1& -2\\ -3& 1& 1\\ 2& -1& 0\end{array}\right)$$

克拉默法则

设 $Ax=b$，$A$ 为 $n$ 阶可逆方阵（$\det A\ne 0$），解为：

$$x_i=\frac{\det A_i}{\det A},i=1,\dots ,n$$

其中 $A_i$ 是将 $A$ 的第 $i$ 列替换为 $b$ 得到的矩阵。

例（$3\times 3$ 方程组）：

$$\{\begin{array}{l}{x}_1+2x_2+x_3=1\\ 2x_1+4x_2+x_3=3\\ x_1+3x_2+2x_3=2\end{array}$$ $$\det A=\left|\begin{array}{ccc}1& 2& 1\\ 2& 4& 1\\ 1& 3& 2\end{array}\right|=1\cdot (8-3)-2\cdot (4-1)+1\cdot (6-4)=5-6+2=1\ne 0$$ $$\det A_1=\left|\begin{array}{ccc}1& 2& 1\\ 3& 4& 1\\ 2& 3& 2\end{array}\right|=1\cdot (8-3)-2\cdot (6-2)+1\cdot (9-8)=5-8+1=-2$$ $$\det A_2=\left|\begin{array}{ccc}1& 1& 1\\ 2& 3& 1\\ 1& 2& 2\end{array}\right|=1\cdot (6-2)-1\cdot (4-1)+1\cdot (4-3)=4-3+1=2$$ $$\det A_3=\left|\begin{array}{ccc}1& 2& 1\\ 2& 4& 3\\ 1& 3& 2\end{array}\right|=1\cdot (8-9)-2\cdot (4-3)+1\cdot (6-4)=-1-2+2=-1$$ $$x_1=\frac{-2}{1}=-2,x_2=\frac{2}{1}=2,x_3=\frac{-1}{1}=-1$$

3.矩阵的秩和线性方程组

第一节 向量组的线性相关性

行向量与列向量

$m\times n$ 矩阵 $A$ 可视为 $m$ 个行向量或 $n$ 个列向量的排列：

$$A=\left(\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1n}\\ a_{21}& a_{22}& \cdots & a_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ a_{m1}& a_{m2}& \cdots & a_{mn}\end{array}\right)=\left(\begin{array}{c}{\mathbf{r}}_1\\ {\mathbf{r}}_2\\ ⋮\\ {\mathbf{r}}_m\end{array}\right)=\left(\begin{array}{cccc}{\mathbf{c}}_1& {\mathbf{c}}_2& \cdots & {\mathbf{c}}_n\end{array}\right)$$

其中 ${\mathbf{r}}_i=(a_{i1},a_{i2},\dots ,a_{in})\in {\mathbb{R}}^n$ 为行向量，${\mathbf{c}}_j=(a_{1j},a_{2j},\dots ,a_{mj}{)}^{\mathrm{T}}\in {\mathbb{R}}^m$ 为列向量。

例：

$$A=\left(\begin{array}{ccc}1& 0& 2\\ 2& -1& 3\end{array}\right),{\mathbf{r}}_1=(1,0,2),{\mathbf{r}}_2=(2,-1,3),{\mathbf{c}}_1=\left(\begin{array}{c}1\\ 2\end{array}\right),{\mathbf{c}}_2=\left(\begin{array}{c}0\\ -1\end{array}\right),{\mathbf{c}}_3=\left(\begin{array}{c}2\\ 3\end{array}\right)$$

线性组合

对向量组 ${\mathbf{v}}_1,\dots ,{\mathbf{v}}_p$，称 ${\sum }_{i=1}^p{k}_i{\mathbf{v}}_i$ 为它们的线性组合，系数 $k_i\in \mathbb{R}$。

例：

$$2\left(\begin{array}{c}1\\ 2\end{array}\right)+3\left(\begin{array}{c}0\\ -1\end{array}\right)=\left(\begin{array}{c}2\\ 1\end{array}\right)$$

线性相关与线性无关

向量组 ${\mathbf{v}}_1,\dots ,{\mathbf{v}}_p$ 称为线性相关的，若存在不全为零的系数 $k_1,\dots ,k_p$ 使

$$\sum _{i=1}^p{k}_i{\mathbf{v}}_i=0$$

反之，若上式仅当 $k_1=\cdots =k_p=0$ 时成立，则称线性无关。

例（相关）：

$${\mathbf{v}}_1=\left(\begin{array}{c}1\\ 0\end{array}\right),{\mathbf{v}}_2=\left(\begin{array}{c}2\\ 0\end{array}\right),2{\mathbf{v}}_1-{\mathbf{v}}_2=0$$

例（无关）：

$${\mathbf{e}}_1=\left(\begin{array}{c}1\\ 0\\ 0\end{array}\right),{\mathbf{e}}_2=\left(\begin{array}{c}0\\ 1\\ 0\end{array}\right),{\mathbf{e}}_3=\left(\begin{array}{c}0\\ 0\\ 1\end{array}\right)$$

若 $k_1{\mathbf{e}}_1+k_2{\mathbf{e}}_2+k_3{\mathbf{e}}_3=(k_1,k_2,k_3{)}^{\mathrm{T}}=0$，则 $k_1=k_2=k_3=0$。

基本性质：

• 单个非零向量线性无关，$0$ 线性相关。
• 含 $0$ 的向量组必线性相关。
• 部分相关 ⇒ 整体相关；整体无关 ⇒ 部分无关。
• 向量个数大于维数时必线性相关（如 ${\mathbb{R}}^2$ 中三个向量必相关）。

第二节 向量组的秩

向量组的等价

两个向量组 $\{{\mathbf{\alpha }}_1,\dots ,{\mathbf{\alpha }}_p\}$ 与 $\{{\mathbf{\beta }}_1,\dots ,{\mathbf{\beta }}_q\}$ 称为等价的，若每个 ${\mathbf{\alpha }}_i$ 可由 $\{{\mathbf{\beta }}_j\}$ 线性表示，且每个 ${\mathbf{\beta }}_j$ 可由 $\{{\mathbf{\alpha }}_i\}$ 线性表示。

等价具有三条性质（等价关系）：

• 自反律：向量组与自身等价。
• 对称律：若 $A$ 组与 $B$ 组等价，则 $B$ 组与 $A$ 组等价。
• 传递律：若 $A$ 组与 $B$ 组等价，$B$ 组与 $C$ 组等价，则 $A$ 组与 $C$ 组等价。

例：

$${\mathbf{\alpha }}_1=\left(\begin{array}{c}1\\ 0\end{array}\right),{\mathbf{\alpha }}_2=\left(\begin{array}{c}0\\ 1\end{array}\right),{\mathbf{\beta }}_1=\left(\begin{array}{c}2\\ 0\end{array}\right),{\mathbf{\beta }}_2=\left(\begin{array}{c}0\\ 2\end{array}\right)$$

${\mathbf{\beta }}_1=2{\mathbf{\alpha }}_1$、${\mathbf{\beta }}_2=2{\mathbf{\alpha }}_2$，且 ${\mathbf{\alpha }}_1=\frac{1}{2}{\mathbf{\beta }}_1$、${\mathbf{\alpha }}_2=\frac{1}{2}{\mathbf{\beta }}_2$，故两向量组等价。

极大线性无关组

向量组的一个子集满足：

1. 自身线性无关；
2. 任意添加组内另一向量后变为线性相关。

则称该子集为一个极大线性无关组。

例：向量组

$${\mathbf{v}}_1=\left(\begin{array}{c}1\\ 0\end{array}\right),{\mathbf{v}}_2=\left(\begin{array}{c}2\\ 0\end{array}\right),{\mathbf{v}}_3=\left(\begin{array}{c}0\\ 1\end{array}\right)$$

$\{{\mathbf{v}}_1,{\mathbf{v}}_3\}$ 是一个极大线性无关组（${\mathbf{v}}_2=2{\mathbf{v}}_1$），$\{{\mathbf{v}}_2,{\mathbf{v}}_3\}$ 也是。同一向量组的任意两个极大无关组所含向量个数相同。

向量组的秩

向量组的秩定义为该向量组中极大线性无关组所含向量的个数。记作 $r({\mathbf{v}}_1,\dots ,{\mathbf{v}}_p)$。

对矩阵 $A$ 而言，$r(A)$ 即其行向量组（或列向量组）的秩。也等于 $A$ 化为 RREF 后非零行（主元）的个数。

例：

$$A=\left(\begin{array}{ccc}1& 2& 1\\ 2& 4& 1\\ 1& 3& 2\end{array}\right)\stackrel{\text{RREF}}{\to }\left(\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& 0& 1\end{array}\right),r(A)=3$$ $$B=\left(\begin{array}{ccc}1& 1& 1\\ 2& 2& 2\end{array}\right)\stackrel{\text{RREF}}{\to }\left(\begin{array}{ccc}1& 1& 1\\ 0& 0& 0\end{array}\right),r(B)=1$$

向量组秩的基本性质：

• $0\le r({\mathbf{v}}_1,\dots ,{\mathbf{v}}_p)\le \min \{p,\text{维数}\}$
• $r(A)=r(A^{\mathrm{T}})$（行秩等于列秩）
• 初等变换不改变向量组的秩
• 等价向量组有相同的秩
• 若 ${\mathbf{\alpha }}_1,\dots ,{\mathbf{\alpha }}_p$ 可由 ${\mathbf{\beta }}_1,\dots ,{\mathbf{\beta }}_q$ 线性表示，则 $r(\mathbf{\alpha })\le r(\mathbf{\beta })$

第三节 矩阵的秩

行秩与列秩

$m\times n$ 矩阵 $A$ 的行秩是其行向量组的秩（极大线性无关行向量的个数），列秩是其列向量组的秩。两者相等，统称为 $A$ 的秩 $r(A)$。

相关：向量组的秩 | 行秩的行列式定义

行秩的行列式定义

$A$ 的 $k$ 阶子式是指从 $A$ 中任取 $k$ 行 $k$ 列构成的 $k$ 阶行列式。

[!abstract] 定理（行列式秩）

矩阵的秩等于满足以下条件的最大整数 $r$：$A$ 中存在一个非零的 $r$ 阶子式 $D_r$，且所有含 $D_r$ 的 $r+1$ 阶子式（若存在）均为零。

证明（证明此时行秩为 $r$）：

设 $D_r\ne 0$ 位于行 $i_1,\dots ,i_r$ 与列 $j_1,\dots ,j_r$ 的交叉处。

• $r(A)\ge r$：$D_r\ne 0$ 说明这 $r$ 行在 $j_1,\dots ,j_r$ 列上的限制线性无关，故整体也无关，行秩 $\ge r$。

• $r(A)=r$（只需证 $\le r$）：对任意行 $p$（$p$ 可以是 $i_1,\dots ,i_r$ 之一或其他行），取唯一解 ${\lambda }_1,\dots ,{\lambda }_r$ 满足：

  $$\sum _{k=1}^r{\lambda }_k{a}_{i_k,j_l}=a_{p,j_l},l=1,\dots ,r$$

  （$D_r\ne 0$ 保证解存在唯一。）

  任取一列 $q$，考虑 $r+1$ 阶子式

  $$\Delta =\left|\begin{array}{cccc}{a}_{i_1,j_1}& \cdots & a_{i_1,j_r}& a_{i_1,q}\\ ⋮& \ddots & ⋮& ⋮\\ a_{i_r,j_1}& \cdots & a_{i_r,j_r}& a_{i_r,q}\\ a_{p,j_1}& \cdots & a_{p,j_r}& a_{p,q}\end{array}\right|$$
  • 若 $q\in \{j_1,\dots ,j_r\}$，则末列与某一前列重复，$\Delta =0$；
  • 若 $q\notin \{j_1,\dots ,j_r\}$，则 $\Delta$ 是含 $D_r$ 的 $r+1$ 阶子式，由条件 $\Delta =0$。

  对 $\Delta$ 做行变换：$R_{r+1}\to R_{r+1}-{\sum }_{k=1}^r{\lambda }_k{R}_k$。该变换不改变行列式的值，且由 $\lambda$ 的定义，新末行的前 $r$ 个元素全为 $0$：

  $$\Delta =\left|\begin{array}{cccc}{a}_{i_1,j_1}& \cdots & a_{i_1,j_r}& a_{i_1,q}\\ ⋮& \ddots & ⋮& ⋮\\ a_{i_r,j_1}& \cdots & a_{i_r,j_r}& a_{i_r,q}\\ 0& \cdots & 0& a_{p,q}-{\sum }_{k=1}^r{\lambda }_k{a}_{i_k,q}\end{array}\right|=0$$

  按末行展开得 $(a_{p,q}-\sum _{k=1}^r{\lambda }_k{a}_{i_k,q})\cdot D_r=0$。

  因 $D_r\ne 0$，故 $a_{p,q}={\sum }_{k=1}^r{\lambda }_k{a}_{i_k,q}$ 对任意列 $q$ 均成立。即行 $p$ 是行 $i_1,\dots ,i_r$ 的线性组合。

  因此 $A$ 的所有行皆可由这 $r$ 行线性表示，行秩 $\le r$。

  综上，行秩 $=r$。

例：

$$A=\left(\begin{array}{ccc}1& 2& 3\\ 4& 5& 6\\ 7& 8& 9\end{array}\right)$$

取 $D_2=\left|\begin{array}{cc}1& 2\\ 4& 5\end{array}\right|=-3\ne 0$，含 $D_2$ 的 $3$ 阶子式仅有 $|A|$ 一个且为零，故 $r(A)=2$。

行秩等于列秩

[!abstract] 定理

对任意矩阵 $A$，行秩 $=$ 列秩 $=r(A)$。

证明：对 $A$ 施行初等行变换化为 RREF $R$。行变换保持行空间，故 $A$ 的行秩 $=R$ 的非零行数 $r$。

另一方面，行变换保持列向量间的线性关系（若 $A$ 的某组列线性相关，在 $R$ 中仍相关，反之亦然），故列秩在行变换下不变。$R$ 中非主元列均可由主元列线性表示，且主元列线性无关，因此 $R$ 的列秩也等于主元列个数 $r$。故 $A$ 的列秩 $=r=$ 行秩。

例：

$$A=\left(\begin{array}{ccc}1& 2& 1\\ 2& 4& 1\\ 1& 3& 2\end{array}\right)\stackrel{\text{RREF}}{\to }\left(\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& 0& 1\end{array}\right)$$

行秩 $=3$（三个非零行），列秩 $=3$（三个主元列），相等。

第四节 矩阵的等价与满秩分解

初等变换与秩

定理：行（列）初等变换不改变矩阵的秩，且行变换保持列向量之间的线性关系，列变换保持行向量之间的线性关系。

证明：行变换是可逆的线性运算，变换前后行空间相同，故行秩（即秩）不变。设 $A$ 经行变换得 $B$。若 $A$ 的某组列 ${\mathbf{c}}_{k_1},\dots ,{\mathbf{c}}_{k_t}$ 满足 $\sum {\mu }_i{\mathbf{c}}_{k_i}=0$，则行变换后对应列 ${\mathbf{c}}_{k_1}^{\prime },\dots ,{\mathbf{c}}_{k_t}^{\prime }$ 满足相同关系，反之亦然，故列向量间的线性关系在行变换下保持。列变换同理。

例：

$$A=\left(\begin{array}{ccc}1& 2& 1\\ 2& 4& 1\\ 1& 3& 2\end{array}\right)\stackrel{R_2-2R_1}{\to }\left(\begin{array}{ccc}1& 2& 1\\ 0& 0& -1\\ 0& 1& 1\end{array}\right)$$

$A$ 的列 ${\mathbf{c}}_1,{\mathbf{c}}_2$ 在变换后仍保持原有的线性关系（若原相关则变换后也相关）。

矩阵等价的充要条件

$m\times n$ 矩阵 $A$ 与 $B$ 称为等价的，若 $B$ 可由 $A$ 经有限次初等行、列变换得到。充要条件是存在可逆方阵 $P_{m\times m}$、$Q_{n\times n}$ 使

$$\boxed{A=PBQ}$$

证明：初等行变换对应左乘初等方阵，列变换对应右乘初等方阵。有限次初等变换的乘积即为可逆阵 $P$ 和 $Q$。反之，可逆阵可分解为初等方阵的乘积，左乘 $P$ 等价于行变换，右乘 $Q$ 等价于列变换。

推论：$A$ 与 $B$ 等价 $⟺r(A)=r(B)$。

等价标准形

[!abstract] 等价标准形

对任意 $m\times n$ 矩阵 $A$，存在可逆阵 $P_{m\times m}$、$Q_{n\times n}$ 使

$$PAQ=\left(\begin{array}{cc}{I}_r& 0\\ 0& 0\end{array}\right)$$

其中 $r=r(A)$。该矩阵称为 $A$ 的等价标准形。等价标准形由秩 $r$ 唯一确定：左上角为 $r$ 阶单位阵，其余为零。

例：

$$A=\left(\begin{array}{ccc}1& 2& 1\\ 2& 4& 1\end{array}\right),r(A)=2$$

通过行、列变换化为等价标准形：先做行变换化为简化的行最简形，再列交换调整顺序，得

$$PAQ=\left(\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\end{array}\right)$$

满秩

设 $A_{m\times n}$ 的秩为 $r$。

• 行满秩：$r=m$（行数 $\le$ 列数时可能），行向量线性无关。
• 列满秩：$r=n$（列数 $\le$ 行数时可能），列向量线性无关。
• 满秩方阵：$m=n=r$，即 $A$ 可逆。

例：

$$A=\left(\begin{array}{ccc}1& 0& 2\\ 0& 1& 1\end{array}\right),r(A)=2=m(\text{行满秩})$$ $$B=\left(\begin{array}{cc}1& 0\\ 0& 1\\ 2& 1\end{array}\right),r(B)=2=n(\text{列满秩})$$

满秩分解

设 $A_{m\times n}$ 的秩为 $r$，则 $A$ 可分解为

$$A=HL$$

其中 $H_{m\times r}$ 为列满秩，$L_{r\times n}$ 为行满秩。此分解称为满秩分解（或秩分解）。

构造：将 $A$ 化为 RREF $R$，取 $R$ 中 $r$ 个非零行构成 $L$，取 $A$ 中 $R$ 的主元列对应的 $r$ 列构成 $H$，则有 $A=HL$。

例：

$$A=\left(\begin{array}{cccc}1& 2& 1& 0\\ 2& 4& 2& 0\\ 1& 2& 0& 1\end{array}\right),r(A)=2$$

化为 RREF：

$$\left(\begin{array}{cccc}1& 2& 1& 0\\ 2& 4& 2& 0\\ 1& 2& 0& 1\end{array}\right)\underset{R_3-R_1}{\overset{R_2-2R_1}{\to }}\left(\begin{array}{cccc}1& 2& 1& 0\\ 0& 0& 0& 0\\ 0& 0& -1& 1\end{array}\right)\stackrel{R_2\leftrightarrow R_3}{\to }\left(\begin{array}{cccc}1& 2& 1& 0\\ 0& 0& -1& 1\\ 0& 0& 0& 0\end{array}\right)$$ $$\stackrel{-R_2}{\to }\left(\begin{array}{cccc}1& 2& 1& 0\\ 0& 0& 1& -1\\ 0& 0& 0& 0\end{array}\right)\stackrel{R_1-R_2}{\to }\left(\begin{array}{cccc}1& 2& 0& 1\\ 0& 0& 1& -1\\ 0& 0& 0& 0\end{array}\right)=R$$

主元列为第 1、3 列。取 $H$ 为 $A$ 的第 1、3 列，$L$ 为 $R$ 的非零行：

$$H=\left(\begin{array}{cc}1& 1\\ 2& 2\\ 1& 0\end{array}\right),L=\left(\begin{array}{cccc}1& 2& 0& 1\\ 0& 0& 1& -1\end{array}\right)$$

验证 $A=HL$：

$$HL=\left(\begin{array}{cc}1& 1\\ 2& 2\\ 1& 0\end{array}\right)\left(\begin{array}{cccc}1& 2& 0& 1\\ 0& 0& 1& -1\end{array}\right)=\left(\begin{array}{cccc}1& 2& 1& 0\\ 2& 4& 2& 0\\ 1& 2& 0& 1\end{array}\right)=A$$

第五节 线性方程组解的结构

有解判定

[!abstract] 有解判定定理

线性方程组 $A\mathbf{x}=\mathbf{b}$（$A$ 为 $m\times n$）有解的充要条件是系数矩阵的秩等于增广矩阵的秩：

$$r(A)=r(A\mid \mathbf{b})$$

证明：$A\mathbf{x}=\mathbf{b}$ 有解 $⟺$ $\mathbf{b}$ 可由 $A$ 的列向量线性表示 $⟺$ $A$ 的列空间包含 $\mathbf{b}$ $⟺$ 添加 $\mathbf{b}$ 不改变列空间的维数 $⟺$ $r(A)=r(A\mid \mathbf{b})$。

例：

$$\{\begin{array}{l}{x}_1+x_2=1\\ 2x_1+2x_2=3\end{array}\Rightarrow r(A)=1,r(A\mid \mathbf{b})=2\text{无解}$$ $$\{\begin{array}{l}{x}_1+x_2=1\\ 2x_1+2x_2=2\end{array}\Rightarrow r(A)=r(A\mid \mathbf{b})=1\text{有解（无穷多解）}$$

相关：齐次方程组有非零解的条件 | 基础解系

齐次方程组有非零解的条件

齐次线性方程组 $A\mathbf{x}=0$（$A_{m\times n}$）有非零解的充要条件是 $r(A)<n$。

• $r(A)=n$：所有变量都是主元变量，仅有零解。
• $r(A)<n$：存在自由变量（共 $n-r$ 个），有无穷多非零解。

例：

$$\{\begin{array}{l}{x}_1+2x_2-x_3=0\\ 2x_1+4x_2-2x_3=0\end{array}\Rightarrow r(A)=1<n=3$$

有非零解，如 $\mathbf{x}=(-2,1,0{)}^{\mathrm{T}}$。

基础解系

[!abstract] 基础解系

$A\mathbf{x}=0$ 的解空间维数为 $n-r$（$r=r(A)$）。基础解系是解空间的一组基，即 $n-r$ 个线性无关的解 ${\mathbf{\xi }}_1,\dots ,{\mathbf{\xi }}_{n-r}$，满足：

1. 它们线性无关；
2. 任一解都可表示为它们的线性组合。

构造：将 $A$ 化为 RREF，确定主元变量和自由变量。对每个自由变量赋值为 $1$（其余自由变量赋 $0$），反解主元变量即得一个基础解系向量。

例：

$$A=\left(\begin{array}{cccc}1& 2& 0& 1\\ 0& 0& 1& -1\end{array}\right),r(A)=2,n=4$$

方程组为 $x_1+2x_2+x_4=0$，$x_3-x_4=0$。自由变量为 $x_2,x_4$。

取 $(x_2,x_4)=(1,0)$ 得 ${\mathbf{\xi }}_1=(-2,1,0,0{)}^{\mathrm{T}}$； 取 $(x_2,x_4)=(0,1)$ 得 ${\mathbf{\xi }}_2=(-1,0,1,1{)}^{\mathrm{T}}$。

基础解系为 $\{{\mathbf{\xi }}_1,{\mathbf{\xi }}_2\}$，通解 $\mathbf{x}=c_1{\mathbf{\xi }}_1+c_2{\mathbf{\xi }}_2$。

相关：导出组与解的关系

导出组与解的关系

导出组：

[!note] 导出组

非齐次方程组 $A\mathbf{x}=\mathbf{b}$ 的导出组是它对应的齐次方程组 $A\mathbf{x}=0$。

若 ${\mathbf{x}}_0$ 是 $A\mathbf{x}=\mathbf{b}$ 的一个特解，$\mathbf{\xi }$ 是导出组的任一解，则 ${\mathbf{x}}_0+\mathbf{\xi }$ 是 $A\mathbf{x}=\mathbf{b}$ 的解。反之，$A\mathbf{x}=\mathbf{b}$ 的任一解均可表示为 ${\mathbf{x}}_0+\mathbf{\xi }$。

因此非齐次方程组的通解结构为：

$$\boxed{\mathbf{x}={\mathbf{x}}_0+\sum _{i=1}^{n-r}{c}_i{\mathbf{\xi }}_i}$$

其中 ${\mathbf{x}}_0$ 是一个特解，$\{{\mathbf{\xi }}_1,\dots ,{\mathbf{\xi }}_{n-r}\}$ 是导出组的基础解系。

例：承接上例，考虑非齐次方程组

$$\{\begin{array}{l}{x}_1+2x_2+x_4=1\\ x_3-x_4=2\end{array}$$

取自由变量 $x_2=x_4=0$，反解得 $x_1=1$，$x_3=2$，得特解 ${\mathbf{x}}_0=(1,0,2,0{)}^{\mathrm{T}}$。通解为

$$\mathbf{x}=\left(\begin{array}{c}1\\ 0\\ 2\\ 0\end{array}\right)+c_1\left(\begin{array}{c}-2\\ 1\\ 0\\ 0\end{array}\right)+c_2\left(\begin{array}{c}-1\\ 0\\ 1\\ 1\end{array}\right),c_1,c_2\in \mathbb{R}$$

4.线性空间

第一节 线性空间的定义

定义

设 $V$ 为非空集合，$\mathbb{F}$ 为数域（如 $\mathbb{R}$ 或 $\mathbb{C}$）。在 $V$ 上定义两种运算：

• 加法：$\forall \mathbf{\alpha },\mathbf{\beta }\in V$，有唯一的 $\mathbf{\alpha }+\mathbf{\beta }\in V$
• 数乘：$\forall k\in \mathbb{F},\mathbf{\alpha }\in V$，有唯一的 $k\mathbf{\alpha }\in V$

[!abstract] 线性空间公理

若满足以下八条公理，则称 $V$ 为 $\mathbb{F}$ 上的线性空间（向量空间）：

加法公理：

1. 交换律：$\mathbf{\alpha }+\mathbf{\beta }=\mathbf{\beta }+\mathbf{\alpha }$
2. 结合律：$(\mathbf{\alpha }+\mathbf{\beta })+\mathbf{\gamma }=\mathbf{\alpha }+(\mathbf{\beta }+\mathbf{\gamma })$
3. 零元素：$\exists 0\in V$，使 $\mathbf{\alpha }+0=\mathbf{\alpha }$
4. 负元素：$\forall \mathbf{\alpha }$，$\exists (-\mathbf{\alpha })\in V$，使 $\mathbf{\alpha }+(-\mathbf{\alpha })=0$

数乘公理（$\forall k,l\in \mathbb{F}$）： 5. $k(\mathbf{\alpha }+\mathbf{\beta })=k\mathbf{\alpha }+k\mathbf{\beta }$ 6. $(k+l)\mathbf{\alpha }=k\mathbf{\alpha }+l\mathbf{\alpha }$ 7. $k(l\mathbf{\alpha })=(kl)\mathbf{\alpha }$ 8. $1\cdot \mathbf{\alpha }=\mathbf{\alpha }$

此时称 $V$ 中的元素为向量，$\mathbb{F}$ 中的元素为标量。零元素 $0$ 和负元素 $-\mathbf{\alpha }$ 均唯一。

线性空间举例

• ${\mathbb{F}}^n$：$n$ 元有序数组全体，加法为分量相加，数乘为分量乘标量，$0=(0,\dots ,0{)}^{\mathrm{T}}$。
• $M_{m\times n}(\mathbb{F})$：$m\times n$ 矩阵全体，加法为矩阵相加，数乘为数乘矩阵。
• $P[x{]}_n$：次数 $<n$ 的多项式全体，加法为多项式相加，数乘为系数乘标量。
• $C[a,b]$：$[a,b]$ 上连续函数全体，$(f+g)(x)=f(x)+g(x)$，$(kf)(x)=kf(x)$。

第二节 子空间

子空间的定义与判定

$V$ 的非空子集 $W$ 称为 $V$ 的子空间，若 $W$ 在 $V$ 的加法和数乘下自身构成线性空间。

[!abstract] 子空间判别定理

$W\subseteq V$ 是子空间 $⟺$ $W\ne \varnothing$ 且对加法和数乘封闭，即

$$\forall \mathbf{\alpha },\mathbf{\beta }\in W,\forall k\in \mathbb{F}⟹\mathbf{\alpha }+\mathbf{\beta }\in W,k\mathbf{\alpha }\in W$$

（非空性常通过验证 $0\in W$ 来保证。）

平凡子空间：$\{0\}$ 和 $V$ 自身是任意线性空间的子空间，称为平凡子空间。其余子空间称为真子空间。

例 1：${\mathbb{R}}^3$ 中，坐标轴（如 $x$ 轴 $\{(t,0,0{)}^{\mathrm{T}}\mid t\in \mathbb{R}\}$）和坐标面（如 $xy$ 平面 $\{(a,b,0{)}^{\mathrm{T}}\mid a,b\in \mathbb{R}\}$）都是子空间。

例 2：$P[x{]}_n$（次数 $<n$）是 $P[x]$（全体多项式）的子空间。

相关：子空间的和 | 维数与子空间

子空间的和

设 $W_1,W_2$ 为 $V$ 的子空间，定义它们的和为

$$W_1+W_2=\{{\mathbf{w}}_1+{\mathbf{w}}_2\mid {\mathbf{w}}_1\in W_1,{\mathbf{w}}_2\in W_2\}$$

$W_1+W_2$ 是包含 $W_1\cup W_2$ 的最小子空间。类似可定义多个子空间的和。

交：$W_1\cap W_2$ 也是 $V$ 的子空间（任意多个子空间的交仍为子空间）。但子空间的并通常不是子空间。

例：${\mathbb{R}}^3$ 中，$x$ 轴 $W_1=\{t{\mathbf{e}}_1\mid t\in \mathbb{R}\}$，$y$ 轴 $W_2=\{t{\mathbf{e}}_2\mid t\in \mathbb{R}\}$，则 $W_1+W_2$ 是 $xy$ 平面 $\{(a,b,0{)}^{\mathrm{T}}\mid a,b\in \mathbb{R}\}$。

第三节 基与维数

生成元集与线性相关

设 ${\mathbf{v}}_1,\dots ,{\mathbf{v}}_n\in V$。若 $V$ 中每个向量均可表示为 ${\mathbf{v}}_1,\dots ,{\mathbf{v}}_n$ 的线性组合，则称这些向量生成 $V$，记作

$$V=\mathrm{span}\{{\mathbf{v}}_1,\dots ,{\mathbf{v}}_n\}$$

向量组 ${\mathbf{v}}_1,\dots ,{\mathbf{v}}_n$ 称为线性相关的，若存在不全为零的 $k_1,\dots ,k_n\in \mathbb{F}$ 使

$$\sum _{i=1}^n{k}_i{\mathbf{v}}_i=0$$

否则称线性无关。

性质：

• 线性无关的向量组的任何子集也线性无关。
• 若一个向量可由一组线性无关的向量线性表示，则表示法唯一。
• 线性空间 $V$ 中线性无关向量的个数不超过任意生成元集的大小。

相关：基 | 维数

基

$V$ 的一个子集 $\{{\mathbf{e}}_1,\dots ,{\mathbf{e}}_n\}$ 称为 $V$ 的一组基，若它同时满足：

1. 线性无关；
2. 生成 $V$（即 $\mathrm{span}\{{\mathbf{e}}_1,\dots ,{\mathbf{e}}_n\}=V$）。

此时任意 $\mathbf{v}\in V$ 可唯一地写成 $\mathbf{v}=\sum x_i{\mathbf{e}}_i$，$(x_1,\dots ,x_n)$ 称为 $\mathbf{v}$ 在该基下的坐标。

例：

• ${\mathbb{R}}^n$ 的标准基：${\mathbf{e}}_1=(1,0,\dots ,0{)}^{\mathrm{T}},\dots ,{\mathbf{e}}_n=(0,\dots ,0,1{)}^{\mathrm{T}}$
• $M_{2\times 2}(\mathbb{R})$ 的基： $\left(\begin{array}{cc}1& 0\\ 0& 0\end{array}\right),\left(\begin{array}{cc}0& 1\\ 0& 0\end{array}\right),\left(\begin{array}{cc}0& 0\\ 1& 0\end{array}\right),\left(\begin{array}{cc}0& 0\\ 0& 1\end{array}\right)$
• $P[x{]}_n$ 的基：$\{1,x,x^2,\dots ,x^{n-1}\}$

维数

若线性空间 $V$ 有一组含 $n$ 个向量的基，则 $V$ 的任何基都恰含 $n$ 个向量。$n$ 称为 $V$ 的维数，记作 $\dim V=n$。

• $\dim V=0⟺V=\{0\}$（零空间）。
• $V$ 称为有限维的，若它有一组有限基。
• $\dim W_1+\dim W_2=\dim (W_1+W_2)+\dim (W_1\cap W_2)$（维数公式）。

例：

• $\dim {\mathbb{F}}^n=n$
• $\dim M_{m\times n}(\mathbb{F})=mn$
• $\dim P[x{]}_n=n$
• $\dim C[a,b]=\infty$（无限维空间）

相关：维数与子空间

维数与子空间

定理 1（相同子空间的判定）：向量组 $S_1$ 与 $S_2$ 生成相同子空间的充要条件是 $S_1$ 与 $S_2$ 等价。

证明：若 $\mathrm{span}(S_1)=\mathrm{span}(S_2)$，则 $S_1$ 中每个向量属于 $\mathrm{span}(S_2)$，故可由 $S_2$ 线性表示；同理 $S_2$ 中每个向量可由 $S_1$ 表示，故等价。反之，若等价，则 $S_1$ 中向量的任意线性组合也可由 $S_2$ 表示（因 $S_1$ 的每个向量是 $S_2$ 的组合），故 $\mathrm{span}(S_1)\subseteq \mathrm{span}(S_2)$，同理反向包含，故相等。

定理 2（子空间基的扩张）：$W$ 的任何一组基可扩充为 $V$ 的基。即若 ${\mathbf{e}}_1,\dots ,{\mathbf{e}}_k$ 是 $W$ 的基，则可添入 ${\mathbf{e}}_{k+1},\dots ,{\mathbf{e}}_n$ 使其成为 $V$ 的基。由此 $\dim W\le \dim V$，等号成立 $⟺W=V$。

维数公式：

[!abstract] 维数公式

设 $W_1,W_2$ 是 $V$ 的子空间，则

$$\boxed{\dim W_1+\dim W_2=\dim (W_1+W_2)+\dim (W_1\cap W_2)}$$

证明（概述）：取 $W_1\cap W_2$ 的基 ${\mathbf{\alpha }}_1,\dots ,{\mathbf{\alpha }}_m$。扩张为 $W_1$ 的基 ${\mathbf{\alpha }}_1,\dots ,{\mathbf{\alpha }}_m,{\mathbf{\beta }}_1,\dots ,{\mathbf{\beta }}_p$ 和 $W_2$ 的基 ${\mathbf{\alpha }}_1,\dots ,{\mathbf{\alpha }}_m,{\mathbf{\gamma }}_1,\dots ,{\mathbf{\gamma }}_q$。则可以证明 ${\mathbf{\alpha }}_1,\dots ,{\mathbf{\alpha }}_m,{\mathbf{\beta }}_1,\dots ,{\mathbf{\beta }}_p,{\mathbf{\gamma }}_1,\dots ,{\mathbf{\gamma }}_q$ 组成 $W_1+W_2$ 的基。因此

$$\begin{array}{rl}\dim W_1& =m+p\\ \dim W_2& =m+q\\ \dim (W_1+W_2)& =m+p+q\\ \dim (W_1\cap W_2)& =m\end{array}$$

代入即得维数公式。

例：${\mathbb{R}}^3$ 中，$W_1$ 为 $xy$ 平面（$\dim =2$），$W_2$ 为 $xz$ 平面（$\dim =2$），则 $W_1\cap W_2$ 为 $x$ 轴（$\dim =1$），$W_1+W_2={\mathbb{R}}^3$（$\dim =3$）。验证 $2+2=3+1$。

第四节 基变换与坐标变换

基变换

设 $V$ 的两组基为

$$(\mathrm{I}):{\mathbf{e}}_1,{\mathbf{e}}_2,\dots ,{\mathbf{e}}_n,(\mathrm{II}):{\mathbf{e}}_1^{\prime },{\mathbf{e}}_2^{\prime },\dots ,{\mathbf{e}}_n^{\prime }$$

每个 ${\mathbf{e}}_j^{\prime }$ 用 $(\mathrm{I})$ 线性表示：

$${\mathbf{e}}_j^{\prime }=a_{1j}{\mathbf{e}}_1+a_{2j}{\mathbf{e}}_2+\cdots +a_{nj}{\mathbf{e}}_n=\sum _{i=1}^n{a}_{ij}{\mathbf{e}}_i(j=1,\dots ,n)$$

写成矩阵形式即基变换公式：

$$\boxed{({\mathbf{e}}_1^{\prime },{\mathbf{e}}_2^{\prime },\dots ,{\mathbf{e}}_n^{\prime })=({\mathbf{e}}_1,{\mathbf{e}}_2,\dots ,{\mathbf{e}}_n)A}$$

其中

$$A=\left(\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1n}\\ a_{21}& a_{22}& \cdots & a_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ a_{n1}& a_{n2}& \cdots & a_{nn}\end{array}\right)$$

$A$ 的第 $j$ 列即为 ${\mathbf{e}}_j^{\prime }$ 在基 $(\mathrm{I})$ 下的坐标。$A$ 称为由基 $(\mathrm{I})$ 到基 $(\mathrm{II})$ 的过渡矩阵。

过渡矩阵必可逆：因 $(\mathrm{I})$ 也可由 $(\mathrm{II})$ 线性表示，设过渡矩阵为 $B$，则 $(\mathbf{e})=({\mathbf{e}}^{\prime })B$。代入得 $({\mathbf{e}}^{\prime })=({\mathbf{e}}^{\prime })BA$，由基的线性无关性得 $BA=I$，故 $B=A^{-1}$。

坐标变换公式

设向量 $\mathbf{\alpha }\in V$ 在基 $(\mathrm{I})$ 和 $(\mathrm{II})$ 下的坐标分别为

$$\mathbf{x}=(x_1,x_2,\dots ,x_n{)}^{\mathrm{T}},{\mathbf{x}}^{\prime }=(x_1^{\prime },x_2^{\prime },\dots ,x_n^{\prime }{)}^{\mathrm{T}}$$

即

$$\mathbf{\alpha }=({\mathbf{e}}_1,\dots ,{\mathbf{e}}_n)\mathbf{x}=({\mathbf{e}}_1^{\prime },\dots ,{\mathbf{e}}_n^{\prime }){\mathbf{x}}^{\prime }$$

由基变换公式 $({\mathbf{e}}^{\prime })=(\mathbf{e})A$：

$$\mathbf{\alpha }=({\mathbf{e}}^{\prime }){\mathbf{x}}^{\prime }=(\mathbf{e})A{\mathbf{x}}^{\prime }$$

与 $\mathbf{\alpha }=(\mathbf{e})\mathbf{x}$ 比较，由坐标表示的唯一性得：

$$\boxed{\mathbf{x}=A{\mathbf{x}}^{\prime }}\text{或}\boxed{{\mathbf{x}}^{\prime }=A^{-1}\mathbf{x}}$$

相关：基

第五节 子空间的直和

直和的定义

设 $W_1,W_2$ 是 $V$ 的子空间。若 $W_1+W_2$ 中每个向量的分解 $\mathbf{\alpha }={\mathbf{\alpha }}_1+{\mathbf{\alpha }}_2({\mathbf{\alpha }}_1\in W_1,{\mathbf{\alpha }}_2\in W_2)$ 是唯一的，则称 $W_1+W_2$ 为 直和，记作 $W_1\oplus W_2$。

[!abstract] 直和的等价条件

$W_1+W_2$ 是直和 $⟺$ $W_1\cap W_2=\{0\}$ $⟺$ 零向量表示法唯一（若 $0={\mathbf{\alpha }}_1+{\mathbf{\alpha }}_2$，则 ${\mathbf{\alpha }}_1={\mathbf{\alpha }}_2=0$）

证明：若 $W_1\cap W_2\ne \{0\}$，取非零 $\mathbf{\gamma }\in W_1\cap W_2$，则 $0=\mathbf{\gamma }+(-\mathbf{\gamma })$ 是 $0$ 的两种不同分解（另一为 $0+0$），故零向量表示法不唯一。反之，若零向量表示法唯一，设 ${\mathbf{\alpha }}_1+{\mathbf{\alpha }}_2={\mathbf{\beta }}_1+{\mathbf{\beta }}_2$，则 $({\mathbf{\alpha }}_1-{\mathbf{\beta }}_1)+({\mathbf{\alpha }}_2-{\mathbf{\beta }}_2)=0$。由唯一性 ${\mathbf{\alpha }}_1-{\mathbf{\beta }}_1=0$，${\mathbf{\alpha }}_2-{\mathbf{\beta }}_2=0$，故分解唯一。

推广到 $m$ 个子空间：$W_1+W_2+\cdots +W_m$ 是直和 $⟺$ 零向量表示法唯一 $⟺$

$$W_i\cap \left(\sum _{j\ne i}{W}_j\right)=\{0\}(i=1,\dots ,m)$$

直和的性质

性质 1（补子空间）：若 $W_1\oplus W_2=V$，则称 $W_1$ 和 $W_2$ 互为 补子空间。$V$ 的任意子空间 $W$ 都存在补子空间。

性质 2（维数公式）：

$$\boxed{\dim (W_1\oplus W_2)=\dim W_1+\dim W_2}$$

更一般地，$\dim (W_1\oplus \cdots \oplus W_m)=\sum \dim W_i$。

性质 3（基的合并）：若 $W_1,W_2$ 的基分别为 $\{{\mathbf{\alpha }}_1,\dots ,{\mathbf{\alpha }}_r\}$ 和 $\{{\mathbf{\beta }}_1,\dots ,{\mathbf{\beta }}_s\}$，则 $W_1\oplus W_2$ 的基为 $\{{\mathbf{\alpha }}_1,\dots ,{\mathbf{\alpha }}_r,{\mathbf{\beta }}_1,\dots ,{\mathbf{\beta }}_s\}$。

性质 4（与维数的关系）：$W_1+W_2$ 是直和 $⟺$ $\dim (W_1+W_2)=\dim W_1+\dim W_2$。

相关：子空间的和 | 维数公式

第六节 线性空间的同构

同构映射的定义

设 $V$ 和 $U$ 是数域 $\mathbb{F}$ 上的线性空间。若存在双射 $\sigma :V\to U$，满足

$$\boxed{\sigma (\mathbf{\alpha }+\mathbf{\beta })=\sigma (\mathbf{\alpha })+\sigma (\mathbf{\beta }),\sigma (k\mathbf{\alpha })=k\sigma (\mathbf{\alpha })}$$

对任意 $\mathbf{\alpha },\mathbf{\beta }\in V$，$k\in \mathbb{F}$ 成立，则称 $\sigma$ 为 同构映射，$V$ 与 $U$ 同构，记作 $V\cong U$。

同构映射是保持线性运算的一一对应。${\sigma }^{-1}$ 也是同构映射。

同构映射的性质

性质 1：$\sigma (0_V)=0_U$，$\sigma (-\mathbf{\alpha })=-\sigma (\mathbf{\alpha })$

性质 2：${\mathbf{\alpha }}_1,\dots ,{\mathbf{\alpha }}_m$ 线性相关 $⟺$ $\sigma ({\mathbf{\alpha }}_1),\dots ,\sigma ({\mathbf{\alpha }}_m)$ 线性相关。即同构映射保持线性相关性。

性质 3：$\{{\mathbf{e}}_1,\dots ,{\mathbf{e}}_n\}$ 是 $V$ 的基 $⟺$ $\{\sigma ({\mathbf{e}}_1),\dots ,\sigma ({\mathbf{e}}_n)\}$ 是 $U$ 的基。因此 $\dim V=\dim U$。

性质 4（核心定理）：

[!abstract] 同构的充要条件

数域 $\mathbb{F}$ 上两个有限维线性空间同构 $⟺$ 它们的维数相同。

证明：$\Rightarrow$ 由性质 3 即得。$\Leftarrow$ 设 $\dim V=\dim U=n$，取 $V$ 的基 $\{{\mathbf{e}}_i\}$ 和 $U$ 的基 $\{{\mathbf{f}}_i\}$。定义映射

$$\sigma \left(\sum _{i=1}^n{x}_i{\mathbf{e}}_i\right)=\sum _{i=1}^n{x}_i{\mathbf{f}}_i$$

则可验证 $\sigma$ 是双射且保持线性运算，故是同构映射。

推论：设 $\dim V=n$，则 $V\cong {\mathbb{F}}^n$。任意 $n$ 维线性空间都可通过取定一组基，与坐标空间 ${\mathbb{F}}^n$ 等同。同构关系是等价关系（自反、对称、传递）。

相关：基 | 维数

5.线性变换与相似矩阵

第一节 线性变换的定义和性质

线性映射与线性变换

设 $V,W$ 是数域 $\mathbb{F}$ 上的线性空间。映射 $\mathcal{A}:V\to W$ 称为线性映射，若满足：

$$\boxed{\mathcal{A}(\mathbf{\alpha }+\mathbf{\beta })=\mathcal{A}(\mathbf{\alpha })+\mathcal{A}(\mathbf{\beta }),\mathcal{A}(k\mathbf{\alpha })=k\mathcal{A}(\mathbf{\alpha })}$$

对任意 $\mathbf{\alpha },\mathbf{\beta }\in V$，$k\in \mathbb{F}$ 成立。

当 $V=W$ 时，$\mathcal{A}:V\to V$ 称为 $V$ 上的线性变换。$V$ 上全体线性变换的集合记作 $\mathcal{L}(V)$。

典型例子

零变换 $\mathcal{O}$：

$$\mathcal{O}(\mathbf{\alpha })=0(\forall \mathbf{\alpha }\in V)$$

恒等变换 $\mathcal{I}$：

$$\mathcal{I}(\mathbf{\alpha })=\mathbf{\alpha }(\forall \mathbf{\alpha }\in V)$$

微分算子：在 $P[x{]}_n$ 上，$D(f)=f^{\prime }$ 是线性变换：

$$D(k_1{f}_1+k_2{f}_2)=k_{1}D(f_1)+k_{2}D(f_2)$$

积分算子：在 $C[a,b]$ 上，$J(f)(x)={\int }_a^{x}f(t)dt$ 是线性变换：

$$J(k_1{f}_1+k_2{f}_2)=k_{1}J(f_1)+k_{2}J(f_2)$$

线性变换的性质

性质 1：$\mathcal{A}(0_V)=0_W$（零向量映为零向量）

性质 2：$\mathcal{A}(-\mathbf{\alpha })=-\mathcal{A}(\mathbf{\alpha })$

性质 3：保持线性组合

$$\mathcal{A}\left(\sum _{i=1}^m{k}_i{\mathbf{\alpha }}_i\right)=\sum _{i=1}^m{k}_i\mathcal{A}({\mathbf{\alpha }}_i)$$

性质 4：若 ${\mathbf{\alpha }}_1,\dots ,{\mathbf{\alpha }}_m$ 线性相关，则 $\mathcal{A}({\mathbf{\alpha }}_1),\dots ,\mathcal{A}({\mathbf{\alpha }}_m)$ 也线性相关。反之不成立（如零变换）。

性质 5：有限维空间中，$\mathcal{A}$ 由基的像唯一确定。设 $\{{\mathbf{e}}_1,\dots ,{\mathbf{e}}_n\}$ 是 $V$ 的基，则对任意 $\mathbf{\alpha }=\sum x_i{\mathbf{e}}_i$：

$$\mathcal{A}(\mathbf{\alpha })=\sum _{i=1}^n{x}_i\mathcal{A}({\mathbf{e}}_i)$$

相关：线性映射与线性变换

加法与数乘

设 $\mathcal{A},\mathcal{B}\in \mathcal{L}(V)$，$k\in \mathbb{F}$。

加法：$(\mathcal{A}+\mathcal{B})(\mathbf{\alpha })=\mathcal{A}(\mathbf{\alpha })+\mathcal{B}(\mathbf{\alpha })$

数乘：$(k\mathcal{A})(\mathbf{\alpha })=k\mathcal{A}(\mathbf{\alpha })$

$\mathcal{L}(V)$ 对加法和数乘构成 $\mathbb{F}$ 上的线性空间，$\dim \mathcal{L}(V)=n^2$（其中 $n=\dim V$）。

乘法（复合）

$$(\mathcal{A}\mathcal{B})(\mathbf{\alpha })=\mathcal{A}(\mathcal{B}(\mathbf{\alpha }))$$

运算性质

对任意 $\mathcal{A},\mathcal{B},\mathcal{C}\in \mathcal{L}(V)$，$k\in \mathbb{F}$：

• 加法交换律：$\mathcal{A}+\mathcal{B}=\mathcal{B}+\mathcal{A}$
• 加法结合律：$(\mathcal{A}+\mathcal{B})+\mathcal{C}=\mathcal{A}+(\mathcal{B}+\mathcal{C})$
• 乘法结合律：$(\mathcal{A}\mathcal{B})\mathcal{C}=\mathcal{A}(\mathcal{BC})$
• 左分配律：$\mathcal{A}(\mathcal{B}+\mathcal{C})=\mathcal{A}\mathcal{B}+\mathcal{A}\mathcal{C}$
• 右分配律：$(\mathcal{A}+\mathcal{B})\mathcal{C}=\mathcal{A}\mathcal{C}+\mathcal{BC}$
• 数乘结合律：$k(\mathcal{A}\mathcal{B})=(k\mathcal{A})\mathcal{B}=\mathcal{A}(k\mathcal{B})$

[!warning] 注意

线性变换的乘法一般不可交换：$\mathcal{A}\mathcal{B}\ne \mathcal{B}\mathcal{A}$。

逆变换

若存在 $\mathcal{B}\in \mathcal{L}(V)$ 使得

$$\mathcal{A}\mathcal{B}=\mathcal{B}\mathcal{A}=\mathcal{I}$$

则称 $\mathcal{A}$ 可逆，$\mathcal{B}$ 称为 $\mathcal{A}$ 的逆变换，记作 ${\mathcal{A}}^{-1}$。

逆变换若存在必唯一。$({\mathcal{A}}^{-1}{)}^{-1}=\mathcal{A}$，$(\mathcal{A}\mathcal{B}{)}^{-1}={\mathcal{B}}^{-1}{\mathcal{A}}^{-1}$。

相关：像空间与核空间 | 逆变换

像空间与核空间

设 $\mathcal{A}\in \mathcal{L}(V)$，$\dim V=n$。

像空间（值域）：

$$\mathrm{Im}\mathcal{A}=\{\mathcal{A}(\mathbf{\alpha })\mid \mathbf{\alpha }\in V\}\subseteq V$$

核空间（零空间）：

$$\mathrm{Ker}\mathcal{A}=\{\mathbf{\alpha }\in V\mid \mathcal{A}(\mathbf{\alpha })=0\}\subseteq V$$

$\mathrm{Im}\mathcal{A}$ 和 $\mathrm{Ker}\mathcal{A}$ 都是 $V$ 的子空间。$\mathcal{A}$ 的秩定义为 $\mathrm{rank}\mathcal{A}=\dim \mathrm{Im}\mathcal{A}$，零度定义为 $\mathrm{null}\mathcal{A}=\dim \mathrm{Ker}\mathcal{A}$。

像与核的维数公式

[!abstract] 维数公式

$$\boxed{\dim V=\dim \mathrm{Ker}\mathcal{A}+\dim \mathrm{Im}\mathcal{A}}$$

证明：取 $\mathrm{Ker}\mathcal{A}$ 的一组基 ${\mathbf{\alpha }}_1,\dots ,{\mathbf{\alpha }}_r$（$\dim \mathrm{Ker}\mathcal{A}=r$）。将其扩充为 $V$ 的基

$${\mathbf{\alpha }}_1,\dots ,{\mathbf{\alpha }}_r,{\mathbf{\alpha }}_{r+1},\dots ,{\mathbf{\alpha }}_n$$

下面证明 $\mathcal{A}({\mathbf{\alpha }}_{r+1}),\dots ,\mathcal{A}({\mathbf{\alpha }}_n)$ 是 $\mathrm{Im}\mathcal{A}$ 的基。

生成：对任意 $\mathbf{\beta }\in \mathrm{Im}\mathcal{A}$，存在 $\mathbf{\alpha }={\sum }_{i=1}^n{x}_i{\mathbf{\alpha }}_i$ 使 $\mathbf{\beta }=\mathcal{A}(\mathbf{\alpha })$。由于 $\mathcal{A}({\mathbf{\alpha }}_1)=\cdots =\mathcal{A}({\mathbf{\alpha }}_r)=0$：

$$\mathbf{\beta }=\mathcal{A}\left(\sum _{i=1}^n{x}_i{\mathbf{\alpha }}_i\right)=\sum _{i=r+1}^n{x}_i\mathcal{A}({\mathbf{\alpha }}_i)$$

故 $\mathcal{A}({\mathbf{\alpha }}_{r+1}),\dots ,\mathcal{A}({\mathbf{\alpha }}_n)$ 生成 $\mathrm{Im}\mathcal{A}$。

线性无关：设 ${\sum }_{i=r+1}^n{k}_i\mathcal{A}({\mathbf{\alpha }}_i)=0$，则 $\mathcal{A}\left({\sum }_{i=r+1}^n{k}_i{\mathbf{\alpha }}_i\right)=0$，即 ${\sum }_{i=r+1}^n{k}_i{\mathbf{\alpha }}_i\in \mathrm{Ker}\mathcal{A}$。由 $\mathrm{Ker}\mathcal{A}$ 的基表示：

$$\sum _{i=r+1}^n{k}_i{\mathbf{\alpha }}_i=\sum _{i=1}^r{l}_i{\mathbf{\alpha }}_i$$

移项得线性组合为零，由 ${\mathbf{\alpha }}_1,\dots ,{\mathbf{\alpha }}_n$ 线性无关知 $k_i=0$（$i=r+1,\dots ,n$）。故 $\mathcal{A}({\mathbf{\alpha }}_{r+1}),\dots ,\mathcal{A}({\mathbf{\alpha }}_n)$ 线性无关。

因此 $\dim \mathrm{Im}\mathcal{A}=n-r$，即 $\dim \mathrm{Ker}\mathcal{A}+\dim \mathrm{Im}\mathcal{A}=r+(n-r)=n$。

单射、满射与可逆性

[!abstract] 有限维空间上线性变换的单射与满射等价

设 $\mathcal{A}\in \mathcal{L}(V)$，$\dim V=n$，则以下等价：

1. $\mathcal{A}$ 是单射（$\mathcal{A}({\mathbf{\alpha }}_1)=\mathcal{A}({\mathbf{\alpha }}_2)\Rightarrow {\mathbf{\alpha }}_1={\mathbf{\alpha }}_2$）
2. $\mathcal{A}$ 是满射（$\mathrm{Im}\mathcal{A}=V$）
3. $\mathcal{A}$ 是可逆的

证明：

$\mathcal{A}$ 单射 $⟺$ $\mathrm{Ker}\mathcal{A}=\{0\}$（若 $\mathcal{A}({\mathbf{\alpha }}_1)=\mathcal{A}({\mathbf{\alpha }}_2)$，则 $\mathcal{A}({\mathbf{\alpha }}_1-{\mathbf{\alpha }}_2)=0$，由单射得 ${\mathbf{\alpha }}_1={\mathbf{\alpha }}_2$）。

由维数公式：

$$\mathcal{A}\text{ 单射}⟺\mathrm{Ker}\mathcal{A}=\{0\}⟺\dim \mathrm{Ker}\mathcal{A}=0⟺\dim \mathrm{Im}\mathcal{A}=n⟺\mathrm{Im}\mathcal{A}=V⟺\mathcal{A}\text{ 满射}$$

单射 + 满射 $\Rightarrow$ 双射 $\Rightarrow$ 可逆（有限维空间中，双射线性映射的逆也是线性的）。

[!warning] 注意

上述等价性依赖于 $\dim V$ 有限。无限维空间中单射 ⇏ 满射，满射 ⇏ 单射。

例：$P[x]$ 上微分算子 $D$ 是满射（每个多项式有原函数）但不是单射（$D(1)=0$）。

相关：像空间与核空间 | 逆变换

线性映射、线性变换与同构映射的关系

三者都是保持线性运算的映射，区别在于定义域与值域以及映射的性质：

	定义	条件
线性映射	$\mathcal{A}:V\to W$	$\mathcal{A}(\mathbf{\alpha }+\mathbf{\beta })=\mathcal{A}(\mathbf{\alpha })+\mathcal{A}(\mathbf{\beta })$，$\mathcal{A}(k\mathbf{\alpha })=k\mathcal{A}(\mathbf{\alpha })$
线性变换	$\mathcal{A}:V\to V$	线性映射的特例，$V=W$
同构映射	$\sigma :V\to U$	线性映射 + 双射（一一对应）
自同构	$\mathcal{A}:V\to V$	同构映射 + $V=U$（即 $V$ 到自身的同构映射）

关系：

• 线性变换 $\subset$ 线性映射（线性变换是 $V$ 到自身的线性映射）
• 同构映射 $\subset$ 线性映射（同构映射是双射的线性映射）
• 自同构 $\subset$ 同构映射，自同构 $\subset$ 线性变换（自同构是 $V$ 到自身的双射线性映射）
• 有限维空间中，线性变换可逆 $⟺$ 它是自同构

$$\text{线性变换}\cap \text{同构映射}=\text{自同构}=\text{可逆线性变换}$$

相关：线性映射与线性变换 | 同构映射的定义 | 单射、满射与可逆性

6.线性变换的矩阵与相似矩阵

第一节 线性变换的矩阵与相似矩阵

线性变换在基下的矩阵

设 $\dim V=n$，取定一组基 ${\mathbf{e}}_1,\dots ,{\mathbf{e}}_n$。对线性变换 $\mathcal{A}\in \mathcal{L}(V)$，每个基向量的像 $\mathcal{A}({\mathbf{e}}_j)$ 仍属于 $V$，可用该基唯一线性表示：

$$\mathcal{A}({\mathbf{e}}_j)=a_{1j}{\mathbf{e}}_1+a_{2j}{\mathbf{e}}_2+\cdots +a_{nj}{\mathbf{e}}_n=\sum _{i=1}^n{a}_{ij}{\mathbf{e}}_i(j=1,\dots ,n)$$

将 $n$ 个等式合并写成矩阵形式：

$$\mathcal{A}({\mathbf{e}}_1,{\mathbf{e}}_2,\dots ,{\mathbf{e}}_n)=({\mathbf{e}}_1,{\mathbf{e}}_2,\dots ,{\mathbf{e}}_n)\left(\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1n}\\ a_{21}& a_{22}& \cdots & a_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ a_{n1}& a_{n2}& \cdots & a_{nn}\end{array}\right)$$

简记为 $\mathcal{A}(\mathbf{e})=(\mathbf{e})A$。矩阵 $A=(a_{ij}{)}_{n\times n}$ 称为 $\mathcal{A}$ 在基 $\{{\mathbf{e}}_1,\dots ,{\mathbf{e}}_n\}$ 下的矩阵，其第 $j$ 列恰为 $\mathcal{A}({\mathbf{e}}_j)$ 在该基下的坐标。

坐标映射关系：设向量 $\mathbf{\alpha }\in V$ 在基下的坐标为

$$\mathbf{x}=\left(\begin{array}{c}{x}_1\\ x_2\\ ⋮\\ x_n\end{array}\right),\text{即}\mathbf{\alpha }=({\mathbf{e}}_1,\dots ,{\mathbf{e}}_n)\mathbf{x}=x_1{\mathbf{e}}_1+\cdots +x_n{\mathbf{e}}_n$$

其像 $\mathbf{\beta }=\mathcal{A}(\mathbf{\alpha })$ 的坐标为 $\mathbf{y}=(y_1,\dots ,y_n{)}^{\mathrm{T}}$。由

$$\mathbf{\beta }=\mathcal{A}(\mathbf{\alpha })=\mathcal{A}\left(\sum _{j=1}^n{x}_j{\mathbf{e}}_j\right)=\sum _{j=1}^n{x}_j\mathcal{A}({\mathbf{e}}_j)=\sum _{j=1}^n{x}_j\sum _{i=1}^n{a}_{ij}{\mathbf{e}}_i=\sum _{i=1}^n\left(\sum _{j=1}^n{a}_{ij}{x}_j\right){\mathbf{e}}_i$$

比较系数得

$$\boxed{\mathbf{y}=A\mathbf{x}},\text{即}\left(\begin{array}{c}{y}_1\\ y_2\\ ⋮\\ y_n\end{array}\right)=\left(\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1n}\\ a_{21}& a_{22}& \cdots & a_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ a_{n1}& a_{n2}& \cdots & a_{nn}\end{array}\right)\left(\begin{array}{c}{x}_1\\ x_2\\ ⋮\\ x_n\end{array}\right)$$

线性变换 $\mathcal{A}$ 对向量的作用完全等价于矩阵 $A$ 左乘坐标列向量。

线性映射在基下的矩阵

设 $\mathcal{A}:V\to W$ 为线性映射，$\dim V=n$，$\dim W=m$。取 $V$ 的基 $(\mathrm{I}):{\mathbf{e}}_1,\dots ,{\mathbf{e}}_n$ 和 $W$ 的基 $(\mathrm{II}):{\mathbf{f}}_1,\dots ,{\mathbf{f}}_m$：

$$\mathcal{A}({\mathbf{e}}_j)=\sum _{i=1}^m{a}_{ij}{\mathbf{f}}_i(j=1,\dots ,n)$$

写成矩阵形式：

$$\mathcal{A}({\mathbf{e}}_1,\dots ,{\mathbf{e}}_n)=({\mathbf{f}}_1,\dots ,{\mathbf{f}}_m){\left(\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1n}\\ a_{21}& a_{22}& \cdots & a_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ a_{m1}& a_{m2}& \cdots & a_{mn}\end{array}\right)}_{m\times n}$$

$A=(a_{ij}{)}_{m\times n}$ 称为 $\mathcal{A}$ 在基 $(\mathrm{I})$ 和 $(\mathrm{II})$ 下的矩阵。坐标映射关系仍是 $\mathbf{y}=A\mathbf{x}$：

$$\underset{\text{在 }W\text{ 中坐标}}{\underbrace{\left(\begin{array}{c}{y}_1\\ y_2\\ ⋮\\ y_m\end{array}\right)}}=\underset{m\times n}{\underbrace{\left(\begin{array}{ccc}{a}_{11}& \cdots & a_{1n}\\ ⋮& \ddots & ⋮\\ a_{m1}& \cdots & a_{mn}\end{array}\right)}}\underset{\text{在 }V\text{ 中坐标}}{\underbrace{\left(\begin{array}{c}{x}_1\\ x_2\\ ⋮\\ x_n\end{array}\right)}}$$

相关：线性映射与线性变换 | 基

矩阵运算与线性变换运算的对应

取定基 ${\mathbf{e}}_1,\dots ,{\mathbf{e}}_n$ 后，每个 $\mathcal{A}\in \mathcal{L}(V)$ 唯一对应一个 $n$ 阶方阵 $A\in M_n(\mathbb{F})$。记此对应为 $\phi (\mathcal{A})=A$。

加法与数乘：设 $\phi (\mathcal{A})=A$，$\phi (\mathcal{B})=B$，由定义直接验证：

$$\phi (\mathcal{A}+\mathcal{B})=A+B,\phi (k\mathcal{A})=kA$$

$\phi$ 是线性空间 $\mathcal{L}(V)$ 到 $M_n(\mathbb{F})$ 的线性同构，且 $\dim \mathcal{L}(V)=\dim M_n(\mathbb{F})=n^2$。

乘法（复合）：设 $\phi (\mathcal{A})=A=(a_{ij})$，$\phi (\mathcal{B})=B=(b_{ij})$，验证 $\phi (\mathcal{A}\mathcal{B})=AB$：

$$(\mathcal{A}\mathcal{B})({\mathbf{e}}_j)=\mathcal{A}(\mathcal{B}({\mathbf{e}}_j))=\mathcal{A}\left(\sum _{k=1}^n{b}_{kj}{\mathbf{e}}_k\right)=\sum _{k=1}^n{b}_{kj}\mathcal{A}({\mathbf{e}}_k)=\sum _{k=1}^n{b}_{kj}\sum _{i=1}^n{a}_{ik}{\mathbf{e}}_i=\sum _{i=1}^n\left(\sum _{k=1}^n{a}_{ik}{b}_{kj}\right){\mathbf{e}}_i$$

右边括号内正是矩阵乘积 $AB$ 的 $(i,j)$ 元。

逆变换：

$$\mathcal{A}\text{ 可逆}⟺A\text{ 可逆},\text{且}\phi ({\mathcal{A}}^{-1})=A^{-1}$$

于是 $\phi :\mathcal{L}(V)\to M_n(\mathbb{F})$ 不仅是线性空间的同构，还保持乘法运算和单位元，是一个代数同构（两个含幺结合代数之间的同构）。

相关：线性变换在基下的矩阵 | 同构映射的定义

相似矩阵

设 $\mathcal{A}$ 在两组基下的矩阵分别为 $A$ 和 $B$。基 $(\mathrm{I}):{\mathbf{e}}_1,\dots ,{\mathbf{e}}_n$，基 $(\mathrm{II}):{\mathbf{e}}_1^{\prime },\dots ,{\mathbf{e}}_n^{\prime }$。由基变换公式 $({\mathbf{e}}^{\prime })=(\mathbf{e})P$，其中过渡矩阵

$$P=\left(\begin{array}{ccc}{p}_{11}& \cdots & p_{1n}\\ ⋮& \ddots & ⋮\\ p_{n1}& \cdots & p_{nn}\end{array}\right)$$

由 $\mathcal{A}(\mathbf{e})=(\mathbf{e})A$ 及 $\mathcal{A}({\mathbf{e}}^{\prime })=({\mathbf{e}}^{\prime })B$：

$$\begin{array}{rl}\mathcal{A}({\mathbf{e}}^{\prime })& =\mathcal{A}((\mathbf{e})P)=(\mathcal{A}(\mathbf{e}))P=(\mathbf{e})AP\\ \mathcal{A}({\mathbf{e}}^{\prime })& =({\mathbf{e}}^{\prime })B=(\mathbf{e})PB\end{array}$$

对比得 $AP=PB$，过渡矩阵 $P$ 可逆，故

$$\boxed{B=P^{-1}AP}$$

相似矩阵的定义：设 $A,B\in M_n(\mathbb{F})$，若存在可逆矩阵 $P$ 使得 $B=P^{-1}AP$，则称 $A$ 与 $B$ 相似，记作 $A\sim B$。

相似关系的本质：同一线性变换在不同基下的矩阵彼此相似。反之，两个相似矩阵可视为同一线性变换在两組不同基下的矩阵表示。

相似矩阵的性质：

• 自反性：$A\sim A$（取 $P=I$）
• 对称性：$A\sim B\Rightarrow B\sim A$（由 $B=P^{-1}AP$ 得 $A=PB{P}^{-1}=(P^{-1}{)}^{-1}B{P}^{-1}$）
• 传递性：$A\sim B,B\sim C\Rightarrow A\sim C$（若 $B=P^{-1}AP$，$C=Q^{-1}BQ$，则 $C=(PQ{)}^{-1}A(PQ)$）
• 若 $A\sim B$，则 $|A|=|B|$，$\mathrm{rank}A=\mathrm{rank}B$

相关：基变换 | 线性变换在基下的矩阵

第二节 特征值与特征向量

特征值与特征向量

设 $\mathcal{A}\in \mathcal{L}(V)$，$\dim V=n$。若存在 $\lambda \in \mathbb{F}$ 和非零向量 $\mathbf{\alpha }\in V$ 满足

$$\boxed{\mathcal{A}(\mathbf{\alpha })=\lambda \mathbf{\alpha }}$$

则称 $\lambda$ 为 $\mathcal{A}$ 的特征值，$\mathbf{\alpha }$ 为 $\mathcal{A}$ 的属于 $\lambda$ 的特征向量。

等价地，$\mathcal{A}(\mathbf{\alpha })=\lambda \mathbf{\alpha }⟺(\mathcal{A}-\lambda \mathcal{I})\mathbf{\alpha }=0⟺\mathbf{\alpha }\in \mathrm{Ker}(\mathcal{A}-\lambda \mathcal{I})$，故 $\lambda$ 是特征值 $⟺$ $\mathcal{A}-\lambda \mathcal{I}$ 不可逆。

矩阵版本：取定基后 $\mathcal{A}$ 对应矩阵 $A$，则 $A\mathbf{x}=\lambda \mathbf{x}$（$\mathbf{x}\ne 0$）。

特征子空间

属于特征值 $\lambda$ 的全部特征向量连同零向量构成 $V$ 的子空间：

$$V_{\lambda }=\{\mathbf{\alpha }\in V\mid \mathcal{A}(\mathbf{\alpha })=\lambda \mathbf{\alpha }\}=\mathrm{Ker}(\mathcal{A}-\lambda \mathcal{I})$$

$V_{\lambda }$ 称为 $\lambda$ 的特征子空间。$\dim V_{\lambda }$ 称为 $\lambda$ 的几何重数。

不同特征值对应的特征向量线性无关：若 ${\lambda }_1,\dots ,{\lambda }_m$ 互不相同，${\mathbf{\alpha }}_i\in V_{{\lambda }_i}$ 非零，则 ${\mathbf{\alpha }}_1,\dots ,{\mathbf{\alpha }}_m$ 线性无关。

特征多项式

取定 $V$ 的基，设 $\mathcal{A}$ 的矩阵为 $A$。定义 $\mathcal{A}$ 的特征多项式：

$$\boxed{f(\lambda )=\det (\lambda I-A)=\left|\begin{array}{cccc}\lambda -a_{11}& -a_{12}& \cdots & -a_{1n}\\ -a_{21}& \lambda -a_{22}& \cdots & -a_{2n}\\ ⋮& ⋮& \ddots & ⋮\\ -a_{n1}& -a_{n2}& \cdots & \lambda -a_{nn}\end{array}\right|}$$

$f(\lambda )$ 是 $\lambda$ 的 $n$ 次首一多项式。${\lambda }_0$ 是特征值 $⟺$ $f({\lambda }_0)=0$。

特征多项式与基的选取无关：若 $\mathcal{A}$ 在另一组基下矩阵为 $B=P^{-1}AP$，则

$$\det (\lambda I-B)=\det (\lambda I-P^{-1}AP)=\det (P^{-1}(\lambda I-A)P)=\det (\lambda I-A)$$

故特征多项式是线性变换本身的不变量。

特征多项式的根与系数的关系

将 $f(\lambda )=\det (\lambda I-A)$ 展开：

$$f(\lambda )={\lambda }^n-(\mathrm{tr}A){\lambda }^{n-1}+\cdots +(-1{)}^n\det A$$

其中 $\mathrm{tr}A=a_{11}+a_{22}+\cdots +a_{nn}$ 称为 $A$ 的迹。

设 $f(\lambda )$ 在复数域上的 $n$ 个根（重根按重数计）为 ${\lambda }_1,{\lambda }_2,\dots ,{\lambda }_n$，则由根与系数的关系：

• 特征值之和：

$$\boxed{\sum _{i=1}^n{\lambda }_i=\mathrm{tr}A}$$

• 特征值之积：

$$\boxed{\prod _{i=1}^n{\lambda }_i=\det A}$$

求特征值与特征向量

步骤：

1. 写出 $A$ 的特征多项式 $f(\lambda )=\det (\lambda I-A)$
2. 解 $f(\lambda )=0$ 得全部特征值 ${\lambda }_1,\dots ,{\lambda }_k$（设互不相同）
3. 对每个 ${\lambda }_i$，解齐次线性方程组 $({\lambda }_{i}I-A)\mathbf{x}=0$，其非零解即为 ${\lambda }_i$ 对应的特征向量，解空间的基构成 $V_{{\lambda }_i}$ 的基

例：$A=\left(\begin{array}{cc}3& 1\\ 0& 2\end{array}\right)$

$$f(\lambda )=\left|\begin{array}{cc}\lambda -3& -1\\ 0& \lambda -2\end{array}\right|=(\lambda -3)(\lambda -2)$$

特征值 ${\lambda }_1=3$，${\lambda }_2=2$。

• $\lambda =3$：$(3I-A)\mathbf{x}=\left(\begin{array}{cc}0& -1\\ 0& 1\end{array}\right)\left(\begin{array}{c}{x}_1\\ x_2\end{array}\right)=0\Rightarrow x_2=0$，特征向量为 $k\left(\begin{array}{c}1\\ 0\end{array}\right)$
• $\lambda =2$：$(2I-A)\mathbf{x}=\left(\begin{array}{cc}-1& -1\\ 0& 0\end{array}\right)\left(\begin{array}{c}{x}_1\\ x_2\end{array}\right)=0\Rightarrow x_1=-x_2$，特征向量为 $k\left(\begin{array}{c}1\\ -1\end{array}\right)$

可对角化

线性变换的可对角化：$\mathcal{A}\in \mathcal{L}(V)$ 称为可对角化，若存在 $V$ 的一组基使 $\mathcal{A}$ 在该基下的矩阵为对角阵，即

$$\mathcal{A}({\mathbf{e}}_1,\dots ,{\mathbf{e}}_n)=({\mathbf{e}}_1,\dots ,{\mathbf{e}}_n)\left(\begin{array}{ccc}{\lambda }_1& & \\ & \ddots & \\ & & {\lambda }_n\end{array}\right)$$

上式等价于 $\mathcal{A}({\mathbf{e}}_i)={\lambda }_i{\mathbf{e}}_i$，即该基的每个向量都是 $\mathcal{A}$ 的特征向量。因此：

[!abstract] 可对角化的充要条件（初步）

$\mathcal{A}$ 可对角化 $⟺$ $V$ 存在由 $\mathcal{A}$ 的特征向量构成的基 $⟺$ $V=V_{{\lambda }_1}\oplus \cdots \oplus V_{{\lambda }_k}$

矩阵的可对角化：方阵 $A$ 称为可对角化，若 $A$ 相似于某个对角矩阵，即存在可逆矩阵 $P$ 使得

$$P^{-1}AP=\mathrm{diag}({\lambda }_1,\dots ,{\lambda }_n)$$

其中 $P$ 的列即为 $A$ 的 $n$ 个线性无关的特征向量。这等价于 $A$ 作为 ${\mathbb{F}}^n$ 上某个线性变换（在标准基下）的矩阵可对角化。

相关：线性变换在基下的矩阵 | 相似矩阵 | 特征值与特征向量

第三节 可对角化条件

判别定理

[!abstract] 可对角化的等价条件

设 $\mathcal{A}\in \mathcal{L}(V)$，$\dim V=n$，则以下等价：

1. $\mathcal{A}$ 可对角化
2. $V$ 存在由 $\mathcal{A}$ 的特征向量构成的基
3. $\mathcal{A}$ 有 $n$ 个线性无关的特征向量
4. $V=\underset{i=1}{\overset{k}{⨁}}{V}_{{\lambda }_i}$，其中 ${\lambda }_1,\dots ,{\lambda }_k$ 是 $\mathcal{A}$ 的全部互异特征值

矩阵版本：$A\in M_n(\mathbb{F})$ 可对角化 $⟺$ $A$ 有 $n$ 个线性无关的特征向量。

充分条件：若 $\mathcal{A}$ 有 $n$ 个互不相同的特征值，则对应的 $n$ 个特征向量线性无关，故 $\mathcal{A}$ 可对角化。

[!warning] 注意

特征值互不相同是充分不必要条件。例如 $A=I_n$ 只有一个特征值 $\lambda =1$（重数 $n$），但仍可对角化（本身就是对角阵）。

代数重数与几何重数

设 ${\lambda }_0$ 是 $\mathcal{A}$ 的特征值。

代数重数：${\lambda }_0$ 作为特征多项式 $f(\lambda )$ 的根的重数，记作 $m_a({\lambda }_0)$。

几何重数：特征子空间 $V_{{\lambda }_0}$ 的维数，记作 $m_g({\lambda }_0)=\dim V_{{\lambda }_0}=\dim \mathrm{Ker}(\mathcal{A}-{\lambda }_0\mathcal{I})$。

关系：

$$\boxed{1\le m_g({\lambda }_0)\le m_a({\lambda }_0)}$$

即几何重数不超过代数重数（由 $\dim \mathrm{Ker}(\mathcal{A}-{\lambda }_0\mathcal{I})=n-\mathrm{rank}({\lambda }_{0}I-A)$ 可得）。

[!abstract] 可对角化的重数条件

$\mathcal{A}$ 可对角化 $⟺$ 对每个特征值 ${\lambda }_i$，几何重数等于代数重数：

$$m_g({\lambda }_i)=m_a({\lambda }_i)(i=1,\dots ,k)$$

且满足 $\sum m_a({\lambda }_i)=n$（特征多项式在 $\mathbb{F}$ 上完全分解）。

零化多项式

设 $\mathcal{A}\in \mathcal{L}(V)$。若多项式 $p(x)=a_m{x}^m+\cdots +a_{1}x+a_0$ 满足

$$p(\mathcal{A})=a_m{\mathcal{A}}^m+\cdots +a_1\mathcal{A}+a_0\mathcal{I}=\mathcal{O}$$

则称 $p(x)$ 为 $\mathcal{A}$ 的零化多项式。

Cayley-Hamilton 定理：特征多项式 $f(\lambda )=\det (\lambda \mathcal{I}-\mathcal{A})$ 是 $\mathcal{A}$ 的零化多项式，即

$$\boxed{f(\mathcal{A})=\mathcal{O}}$$

最小多项式

$\mathcal{A}$ 的所有非零零化多项式中，次数最低的首一多项式称为 $\mathcal{A}$ 的最小多项式，记作 $m_{\mathcal{A}}(x)$。

性质：

• $m_{\mathcal{A}}(x)$ 整除 $\mathcal{A}$ 的任一零化多项式（特别地，$m_{\mathcal{A}}(x)\mid f(x)$）
• $m_{\mathcal{A}}(x)$ 与 $f(x)$ 有相同的根（不计重数）
• 相似矩阵有相同的最小多项式
• 矩阵版本类似：$m_A(x)$ 为 $A$ 的最小多项式

[!abstract] 最小多项式判据

$\mathcal{A}$（或 $A$）可对角化 $⟺$ 最小多项式无重根。

等价地，最小多项式可分解为互不相同的一次因式之积：

$$m_{\mathcal{A}}(x)=(x-{\lambda }_1)(x-{\lambda }_2)\cdots (x-{\lambda }_k)$$

证明思路：若 $\mathcal{A}$ 可对角化为 $\mathrm{diag}({\lambda }_1{I}_{n_1},\dots ,{\lambda }_k{I}_{n_k})$，则 $m_{\mathcal{A}}(x)=\prod (x-{\lambda }_i)$ 无重根。反之，若最小多项式无重根，可证 $V$ 是各特征子空间的直和，从而可对角化。

相关：特征值与特征向量 | 特征多项式 | 可对角化

7.λ矩阵

第一节 λ矩阵及其标准形

λ矩阵的定义

以 $\lambda$ 的多项式为元素的矩阵称为 $\lambda$-矩阵，记作 $A(\lambda )=(a_{ij}(\lambda ){)}_{m\times n}$，其中 $a_{ij}(\lambda )\in \mathbb{F}[\lambda ]$。

$$A(\lambda )=\left(\begin{array}{cccc}{a}_{11}(\lambda )& a_{12}(\lambda )& \cdots & a_{1n}(\lambda )\\ a_{21}(\lambda )& a_{22}(\lambda )& \cdots & a_{2n}(\lambda )\\ ⋮& ⋮& \ddots & ⋮\\ a_{m1}(\lambda )& a_{m2}(\lambda )& \cdots & a_{mn}(\lambda )\end{array}\right)$$

当 $A(\lambda )$ 中有非零的 $r$ 阶子式，而所有 $r+1$ 阶子式均为零时，称 $A(\lambda )$ 的秩为 $r$。

行列初等变换

λ-矩阵的初等变换：

• 行（列）互换：$\lambda$-矩阵的两行（列）对换
• 行（列）倍乘：某行（列）乘以非零常数 $c\in \mathbb{F}$（$c\ne 0$）
• 行（列）倍加：某行（列）加上另一行（列）的 $\phi (\lambda )$ 倍，$\phi (\lambda )\in \mathbb{F}[\lambda ]$

[!warning] 与常数矩阵的区别

λ-矩阵的初等变换中，倍乘只能乘以非零常数，不能乘以 $\lambda$ 的多项式（否则可能改变行列式因子的性质）。

三种初等变换对应三种初等λ-矩阵（用初等λ-矩阵左乘/右乘以实现初等行/列变换）。

可逆条件

[!abstract] λ-矩阵可逆的充要条件

$A(\lambda )$（$n$ 阶方阵）可逆 $⟺$ $\det A(\lambda )$ 为非零常数（即属于 $\mathbb{F}\setminus \{0\}$）。

可逆 λ-矩阵可表示为有限个初等 λ-矩阵的乘积。可逆 λ-矩阵的行列式不依赖于 $\lambda$。

标准形

任意秩为 $r$ 的 $m\times n$ λ-矩阵 $A(\lambda )$，必可通过初等变换化为如下形式：

$$\boxed{A(\lambda )\stackrel{\text{初等变换}}{\to }{\left(\begin{array}{ccccc}{d}_1(\lambda )& & & & \\ & d_2(\lambda )& & & \\ & & \ddots & & \\ & & & d_r(\lambda )& \\ & & & & 0\end{array}\right)}_{m\times n}}$$

其中每个 $d_i(\lambda )$ 是首一多项式（最高次项系数为 1），且满足 $d_1(\lambda )\mid d_2(\lambda )\mid \cdots \mid d_r(\lambda )$ 即 $d_i(\lambda )$ 整除 $d_{i+1}(\lambda )$。此形式称为 $A(\lambda )$ 的 Smith 标准形。

行列式因子

$A(\lambda )$ 的所有 $k$ 阶子式的首一最大公因式称为 $A(\lambda )$ 的第 $k$ 个行列式因子，记作 $D_k(\lambda )$（$k=1,\dots ,r$）。规定 $D_0(\lambda )=1$。

行列式因子在初等变换下不变（初等变换不改变各阶子式生成的理想）。

不变因子

行列式因子的依次商称为不变因子：

$$\boxed{d_k(\lambda )=\frac{D_k(\lambda )}{D_{k-1}(\lambda )}}(k=1,\dots ,r)$$

不变因子的性质：

• $d_k(\lambda )$ 首一，且 $d_k(\lambda )\mid d_{k+1}(\lambda )$
• $D_k(\lambda )=d_1(\lambda )d_2(\lambda )\cdots d_k(\lambda )$

标准形的唯一性

设 $A(\lambda )$ 经初等变换化为两种标准形 $\mathrm{diag}(d_1,\dots ,d_r)$ 和 $\mathrm{diag}({\tilde{d}}_1,\dots ,{\tilde{d}}_r)$。由于初等变换不改变行列式因子，而标准形的行列式因子为 $D_k=d_1\cdots d_k={\tilde{d}}_1\cdots {\tilde{d}}_k$，故 $d_k={\tilde{d}}_k$，即标准形唯一。

例题

求 $A(\lambda )=\left(\begin{array}{cc}\lambda & 1\\ 0& \lambda \end{array}\right)$ 的行列式因子、不变因子和标准形。

解：

• $D_1(\lambda )$：一阶子式为 $\lambda ,1,0,\lambda$，首一最大公因式为 $1$，故 $D_1=1$
• $D_2(\lambda )$：二阶子式为 $\left|\begin{array}{cc}\lambda & 1\\ 0& \lambda \end{array}\right|={\lambda }^2$，故 $D_2={\lambda }^2$

不变因子： $d_1=\frac{D_1}{D_0}=1,d_2=\frac{D_2}{D_1}={\lambda }^2$

标准形：

$$\left(\begin{array}{cc}1& 0\\ 0& {\lambda }^2\end{array}\right)$$

相关：第一节 线性变换的矩阵与相似矩阵

第二节 λ矩阵的余式定理

带余除法定理

设 $A(\lambda )=(a_{ij}(\lambda ){)}_{n\times n}$，每个 $a_{ij}(\lambda )$ 是多项式。对常数矩阵 $A$，$\lambda E-A$ 是特殊的 λ-矩阵。

带余除法：对任意 $n$ 阶 λ-矩阵 $A(\lambda )$ 和常数矩阵 $A$，存在 λ-矩阵 $Q(\lambda )$ 和常数矩阵 $R$，使

$$A(\lambda )=(\lambda E-A)Q(\lambda )+R$$

类似有左除形式 $A(\lambda )=Q(\lambda )(\lambda E-A)+R$。

哈密顿-凯莱定理（λ-矩阵证明）

对 $A\in M_n(\mathbb{F})$，$f(\lambda )=\det (\lambda E-A)$ 为特征多项式。由伴随矩阵关系：

$$(\lambda E-A)\mathrm{adj}(\lambda E-A)=\det (\lambda E-A)E=f(\lambda )E$$

将 $\mathrm{adj}(\lambda E-A)$ 按 $\lambda$ 的幂展开并代入 $A$，可得 $f(A)=O$。

常数矩阵相似的 λ-矩阵判据

[!abstract] 相似判据

$A\sim B$ $⟺$ $\lambda E-A$ 与 $\lambda E-B$ 有相同的不变因子（或相同的行列式因子、相同的初等因子）。

等价地：$A\sim B$ $⟺$ $\lambda E-A$ 与 $\lambda E-B$ 有相同的 Smith 标准形。

友矩阵

多项式 $p(\lambda )={\lambda }^n+a_{n-1}{\lambda }^{n-1}+\cdots +a_1\lambda +a_0$ 的友矩阵（companion matrix）为

$$C={\left(\begin{array}{ccccc}0& 0& \cdots & 0& -a_0\\ 1& 0& \cdots & 0& -a_1\\ 0& 1& \cdots & 0& -a_2\\ ⋮& ⋮& \ddots & ⋮& ⋮\\ 0& 0& \cdots & 1& -a_{n-1}\end{array}\right)}_{n\times n}$$

$\lambda E-C$ 的不变因子为 $\underset{n-1\text{个}}{\underbrace{1,\dots ,1}},p(\lambda )$。

有理标准形（Frobenius 标准形）

设 $A$ 的不变因子为 $1,\dots ,1,d_1(\lambda ),\dots ,d_k(\lambda )$（不计那些为 $1$ 的不变因子）。每个 $d_i(\lambda )$ 对应其友矩阵 $C_i$，则 $A$ 相似于分块对角阵：

$$A\sim \left(\begin{array}{ccc}{C}_1& & \\ & \ddots & \\ & & C_k\end{array}\right)$$

称为 $A$ 的有理标准形（Frobenius 标准形）。不变因子唯一确定有理标准形。

[!abstract] Frobenius 定理

每个方阵 $A$ 唯一确定一组不变因子 $d_i(\lambda )$，且 $d_i(\lambda )\mid d_{i+1}(\lambda )$；反之，给定一组满足整除关系的不变因子，存在方阵以它们为不变因子。不变因子相同的矩阵彼此相似。

相关：特征多项式 | Cayley-Hamilton 定理

第三节 初等因子

初等因子的定义

将 $A$（或 $\lambda E-A$）的每个次数 ≥1 的不变因子 $d_i(\lambda )$ 在 $\mathbb{F}$ 上分解为不可约因式幂的乘积：

$$d_i(\lambda )=p_1(\lambda {)}^{e_{i1}}{p}_2(\lambda {)}^{e_{i2}}\cdots p_t(\lambda {)}^{e_{it}}$$

其中每个 $p_j(\lambda {)}^{e_{ij}}$（$e_{ij}\ge 1$）称为 $A$ 的一个初等因子。所有不变因子的全部初等因子的集合（计重数）称为 $A$ 的初等因子组。

初等因子判据

[!abstract] 相似判据（初等因子版本）

$A\sim B$ $⟺$ $A$ 与 $B$ 有相同的初等因子组。

由初等因子构造标准形（求不变因子）

已知 $\lambda E-A$ 的初等因子组，可反求不变因子。设 $A$ 为 $n$ 阶方阵：

1. 将初等因子按不可约因式分组，同组内按降幂排列
2. 列成 $n$ 个竖直列，每组元素自上而下填入，不足 $n$ 个的用 $1$ 补齐
3. 每列所有因式的乘积即为一个不变因子

例：$n=5$，初等因子组为 \{(\lambda-1)^3,(\lambda-1)^2,(\lambda-1)$$\;(\lambda-2)^2,\lambda-2\}

按不可约因式分组并降幂排列：

$$\begin{array}{cccc}& \text{第 1 列}& \text{第 2 列}& \text{第 3 列}\\ (\lambda -1)\text{ 组}& (\lambda -1{)}^3& (\lambda -1{)}^2& \lambda -1\\ (\lambda -2)\text{ 组}& (\lambda -2{)}^2& \lambda -2& 1\end{array}$$

各列乘积为不变因子：

$$\begin{array}{rl}{d}_5(\lambda )& =(\lambda -1{)}^3(\lambda -2{)}^2\\ d_4(\lambda )& =(\lambda -1{)}^2(\lambda -2)\\ d_3(\lambda )& =\lambda -1\\ d_2(\lambda )& =1\\ d_1(\lambda )& =1\end{array}$$

得到不变因子后即可写出有理标准形（每个不变因子的友矩阵排成分块对角阵），或当特征值均在域中时进一步化为若尔当标准形。

相关：不变因子 | 有理标准形 Frobenius 标准形

第四节 若尔当标准形

若尔当标准形的构造

设 $A$ 的特征值均在 $\mathbb{F}$ 中（即特征多项式在 $\mathbb{F}$ 上完全分解），则 $\lambda E-A$ 的初等因子全为一次因式的幂 $(\lambda -{\lambda }_i{)}^{m_{ij}}$。

对每个初等因子 $(\lambda -{\lambda }_i{)}^m$，构造 $m$ 阶若尔当块：

$$J_m({\lambda }_i)={\left(\begin{array}{cccc}{\lambda }_i& 1& & \\ & {\lambda }_i& \ddots & \\ & & \ddots & 1\\ & & & {\lambda }_i\end{array}\right)}_{m\times m}$$

将所有若尔当块排成分块对角阵，即得 $A$ 的若尔当标准形：

$$J=J_{m_1}({\lambda }_1)\oplus J_{m_2}({\lambda }_2)\oplus \cdots \oplus J_{m_k}({\lambda }_k)=\left(\begin{array}{ccc}{J}_{m_1}({\lambda }_1)& & \\ & \ddots & \\ & & J_{m_k}({\lambda }_k)\end{array}\right)$$

构造步骤：

1. 求 $\lambda E-A$ 的初等因子组 $\{(\lambda -{\lambda }_i{)}^{m_{ij}}\}$
2. 每个初等因子 $(\lambda -{\lambda }_i{)}^m$ 对应一个 $m$ 阶若尔当块 $J_m({\lambda }_i)$
3. 排列若尔当块（顺序可任意），得到 $J$

唯一性

[!abstract] 若尔当标准形的唯一性

若尔当标准形在忽略若尔当块的排列顺序后是唯一的。即 $A$ 的若尔当标准形由其初等因子组唯一决定（不计块的排列）。

与对角矩阵相似的条件

[!abstract] 可对角化的初等因子判据

$A$ 与对角矩阵相似 $⟺$ $\lambda E-A$ 的初等因子全为一次式（即所有 $(\lambda -{\lambda }_i{)}^m$ 中 $m=1$）。

此时每个若尔当块为 $1\times 1$，若尔当标准形退化为对角阵。

注：此条件等价于最小多项式无重根，也等价于每个特征值的几何重数等于代数重数。

相关：初等因子 | 可对角化 | 最小多项式

8.内积空间

第一节 内积空间的定义与基本性质

内积空间的定义

设 $V$ 是数域 $\mathbb{F}$ 上的线性空间。映射 $⟨\cdot ,\cdot ⟩:V\times V\to \mathbb{F}$ 称为 $V$ 上的内积，若满足以下三条公理（$\forall \mathbf{\alpha },\mathbf{\beta },\mathbf{\gamma }\in V,\forall k\in \mathbb{F}$）：

1. 共轭对称性：$⟨\mathbf{\alpha },\mathbf{\beta }⟩=\overline{⟨\mathbf{\beta },\mathbf{\alpha }⟩}$
2. 对第一变元的线性性：$⟨\mathbf{\alpha }+\mathbf{\beta },\mathbf{\gamma }⟩=⟨\mathbf{\alpha },\mathbf{\gamma }⟩+⟨\mathbf{\beta },\mathbf{\gamma }⟩$，$⟨k\mathbf{\alpha },\mathbf{\beta }⟩=k⟨\mathbf{\alpha },\mathbf{\beta }⟩$
3. 正定性：$⟨\mathbf{\alpha },\mathbf{\alpha }⟩\ge 0$，且 $⟨\mathbf{\alpha },\mathbf{\alpha }⟩=0⟺\mathbf{\alpha }=0$

定义了内积的有限维线性空间称为内积空间：

• $\mathbb{F}=\mathbb{C}$ 时称为酉空间（复内积空间）；
• $\mathbb{F}=\mathbb{R}$ 时，共轭对称性退化为对称性 $⟨\mathbf{\alpha },\mathbf{\beta }⟩=⟨\mathbf{\beta },\mathbf{\alpha }⟩$，称为欧几里得空间（实内积空间）。

[!warning] 注意 对第二变元，由共轭对称性和第一变元线性性可得：$⟨\mathbf{\alpha },\mathbf{\beta }+\mathbf{\gamma }⟩=⟨\mathbf{\alpha },\mathbf{\beta }⟩+⟨\mathbf{\alpha },\mathbf{\gamma }⟩$，$⟨\mathbf{\alpha },k\mathbf{\beta }⟩=\bar{k}⟨\mathbf{\alpha },\mathbf{\beta }⟩$。即内积对第二变元是共轭线性的。在实情形退化为普通双线性。

内积的基本性质

由定义可推出以下基本性质（$\forall \mathbf{\alpha },\mathbf{\beta }\in V$）：

• $⟨0,\mathbf{\alpha }⟩=⟨\mathbf{\alpha },0⟩=0$
• $⟨\mathbf{\alpha },\mathbf{\beta }⟩=0(\forall \mathbf{\beta })⟹\mathbf{\alpha }=0$（非退化性）
• 内积由其在一个基下的度量矩阵唯一确定（见度量矩阵）

长度（范数）

向量 $\mathbf{\alpha }$ 的长度（范数）定义为：

$$\boxed{\Vert \mathbf{\alpha }\Vert =\sqrt{⟨\mathbf{\alpha },\mathbf{\alpha }⟩}}$$

长度 $=1$ 的向量称为单位向量。$\forall \mathbf{\alpha }\ne 0$，$\frac{\mathbf{\alpha }}{\Vert \mathbf{\alpha }\Vert }$ 是与 $\mathbf{\alpha }$ 同方向的单位向量（规范化）。

长度的基本性质：

• $\Vert \mathbf{\alpha }\Vert \ge 0$，且 $\Vert \mathbf{\alpha }\Vert =0⟺\mathbf{\alpha }=0$
• $\Vert k\mathbf{\alpha }\Vert =|k|\Vert \mathbf{\alpha }\Vert$（齐次性）

标准内积

在 ${\mathbb{C}}^n$（或 ${\mathbb{R}}^n$）中，最常用的内积是标准内积：

$$⟨\mathbf{x},\mathbf{y}⟩={\overline{\mathbf{y}}}^{\mathrm{T}}\mathbf{x}=\sum _{i=1}^n{x}_i\overline{y_i}$$

其中 ${\overline{\mathbf{y}}}^{\mathrm{T}}$ 表示 $\mathbf{y}$ 的共轭转置，即先取共轭再转置。在 ${\mathbb{R}}^n$ 中退化为普通点积 ${\mathbf{y}}^{\mathrm{T}}\mathbf{x}=\sum x_i{y}_i$。

此时长度即为欧几里得长度：

$$\Vert \mathbf{x}\Vert =\sqrt{x_1\overline{x_1}+\cdots +x_n\overline{x_n}}=\sqrt{\sum _{i=1}^n|x_i{|}^2}$$

柯西-布尼亚科夫斯基不等式与三角不等式

[!abstract] 柯西-布尼亚科夫斯基不等式

对内积空间中任意向量 $\mathbf{\alpha },\mathbf{\beta }$：

$$\boxed{|⟨\mathbf{\alpha },\mathbf{\beta }⟩|\le \Vert \mathbf{\alpha }\Vert \Vert \mathbf{\beta }\Vert }$$

等号成立 $⟺$ $\mathbf{\alpha }$ 与 $\mathbf{\beta }$ 线性相关。

证明：若 $\mathbf{\beta }=0$ 显然成立。设 $\mathbf{\beta }\ne 0$，取 $t=-\frac{⟨\mathbf{\alpha },\mathbf{\beta }⟩}{⟨\mathbf{\beta },\mathbf{\beta }⟩}$，由正定性：

$$0\le ⟨\mathbf{\alpha }+t\mathbf{\beta },\mathbf{\alpha }+t\mathbf{\beta }⟩=⟨\mathbf{\alpha },\mathbf{\alpha }⟩+t⟨\mathbf{\beta },\mathbf{\alpha }⟩+\bar{t}⟨\mathbf{\alpha },\mathbf{\beta }⟩+|t{|}^2⟨\mathbf{\beta },\mathbf{\beta }⟩$$

代入 $t$ 化简得 $⟨\mathbf{\alpha },\mathbf{\alpha }⟩-\frac{|⟨\mathbf{\alpha },\mathbf{\beta }⟩{|}^2}{⟨\mathbf{\beta },\mathbf{\beta }⟩}\ge 0$，即得不等式。

[!abstract] 三角不等式

对内积空间中任意向量 $\mathbf{\alpha },\mathbf{\beta }$：

$$\boxed{\Vert \mathbf{\alpha }+\mathbf{\beta }\Vert \le \Vert \mathbf{\alpha }\Vert +\Vert \mathbf{\beta }\Vert }$$

证明：

$$\Vert \mathbf{\alpha }+\mathbf{\beta }{\Vert }^2=⟨\mathbf{\alpha }+\mathbf{\beta },\mathbf{\alpha }+\mathbf{\beta }⟩=\Vert \mathbf{\alpha }{\Vert }^2+⟨\mathbf{\alpha },\mathbf{\beta }⟩+⟨\mathbf{\beta },\mathbf{\alpha }⟩+\Vert \mathbf{\beta }{\Vert }^2=\Vert \mathbf{\alpha }{\Vert }^2+2\mathrm{Re}⟨\mathbf{\alpha },\mathbf{\beta }⟩+\Vert \mathbf{\beta }{\Vert }^2$$

由 $\mathrm{Re}⟨\mathbf{\alpha },\mathbf{\beta }⟩\le |⟨\mathbf{\alpha },\mathbf{\beta }⟩|\le \Vert \mathbf{\alpha }\Vert \Vert \mathbf{\beta }\Vert$，得 $\Vert \mathbf{\alpha }+\mathbf{\beta }{\Vert }^2\le (\Vert \mathbf{\alpha }\Vert +\Vert \mathbf{\beta }\Vert {)}^2$。

垂直（正交）

若 $⟨\mathbf{\alpha },\mathbf{\beta }⟩=0$，则称 $\mathbf{\alpha }$ 与 $\mathbf{\beta }$ 垂直（正交），记作 $\mathbf{\alpha }\perp \mathbf{\beta }$。

由共轭对称性，$\mathbf{\alpha }\perp \mathbf{\beta }⟺\mathbf{\beta }\perp \mathbf{\alpha }$。

勾股定理：若 $\mathbf{\alpha }\perp \mathbf{\beta }$，则

$$\Vert \mathbf{\alpha }+\mathbf{\beta }{\Vert }^2=\Vert \mathbf{\alpha }{\Vert }^2+\Vert \mathbf{\beta }{\Vert }^2$$

例：${\mathbb{R}}^2$ 中 ${\mathbf{e}}_1=(1,0{)}^{\mathrm{T}}$ 与 ${\mathbf{e}}_2=(0,1{)}^{\mathrm{T}}$ 正交，$\Vert {\mathbf{e}}_1+{\mathbf{e}}_2{\Vert }^2=2=1+1$。

相关：标准正交基 | 正交子空间

第二节 度量矩阵与标准正交基

度量矩阵

设 ${\mathbf{e}}_1,\dots ,{\mathbf{e}}_n$ 是内积空间 $V$ 的一组基。对任意 $\mathbf{\alpha }=\sum x_i{\mathbf{e}}_i$，$\mathbf{\beta }=\sum y_i{\mathbf{e}}_i$：

$$⟨\mathbf{\alpha },\mathbf{\beta }⟩=⟨\sum _{i=1}^n{x}_i{\mathbf{e}}_i,\sum _{j=1}^n{y}_j{\mathbf{e}}_j⟩=\sum _{i=1}^n\sum _{j=1}^n{x}_i\overline{y_j}⟨{\mathbf{e}}_i,{\mathbf{e}}_j⟩$$

矩阵 $G=(g_{ij}{)}_{n\times n}$，其中 $g_{ij}=⟨{\mathbf{e}}_i,{\mathbf{e}}_j⟩$，称为内积在基 $\{{\mathbf{e}}_i\}$ 下的度量矩阵（Gram 矩阵）。

则内积可写为矩阵形式：

$$\boxed{⟨\mathbf{\alpha },\mathbf{\beta }⟩={\overline{\mathbf{y}}}^{\mathrm{T}}G\mathbf{x}}$$

其中 $\mathbf{x}=(x_1,\dots ,x_n{)}^{\mathrm{T}}$，$\mathbf{y}=(y_1,\dots ,y_n{)}^{\mathrm{T}}$。

度量矩阵的性质：

• ${\overline{G}}^{\mathrm{T}}=G$（Hermite 矩阵）；实情形 $G^{\mathrm{T}}=G$（对称矩阵）
• $G$ 是正定矩阵（$\forall \mathbf{x}\ne 0$，${\overline{\mathbf{x}}}^{\mathrm{T}}G\mathbf{x}>0$）
• 不同基下的度量矩阵相互合同（见基变换下的度量矩阵）

基变换下的度量矩阵

基变换公式 $({\mathbf{e}}^{\prime })=(\mathbf{e})P$，$P$ 为过渡矩阵。在基 $(\mathbf{e})$ 和 $({\mathbf{e}}^{\prime })$ 下的度量矩阵分别为 $G$ 和 $G^{\prime }$，则：

$$\boxed{G^{\prime }={\overline{P}}^{\mathrm{T}}GP}$$

推导：$⟨{\mathbf{e}}_i^{\prime },{\mathbf{e}}_j^{\prime }⟩=⟨{\sum }_k{p}_{ki}{\mathbf{e}}_k,{\sum }_l{p}_{lj}{\mathbf{e}}_l⟩={\sum }_{k,l}{p}_{ki}\overline{p_{lj}}⟨{\mathbf{e}}_k,{\mathbf{e}}_l⟩$，即 $G^{\prime }={\overline{P}}^{\mathrm{T}}GP$。

实情形下为 $G^{\prime }=P^{\mathrm{T}}GP$，此时 $G$ 与 $G^{\prime }$合同。

相关：基变换

标准正交基

若基向量组 ${\mathbf{e}}_1,\dots ,{\mathbf{e}}_n$ 满足：

1. 彼此正交：$⟨{\mathbf{e}}_i,{\mathbf{e}}_j⟩=0(i\ne j)$
2. 均为单位向量：$\Vert {\mathbf{e}}_i\Vert =1$

则称为标准正交基（规范正交基）。等价地：

$$\boxed{⟨{\mathbf{e}}_i,{\mathbf{e}}_j⟩={\delta }_{ij}}$$

其中 ${\delta }_{ij}$ 为 Kronecker 符号。

标准正交基下的度量矩阵 $G=I_n$。此时内积化为标准形式：

$$⟨\mathbf{\alpha },\mathbf{\beta }⟩={\overline{\mathbf{y}}}^{\mathrm{T}}\mathbf{x}=\sum _{i=1}^n{x}_i\overline{y_i}$$

坐标计算公式：在标准正交基下，向量坐标可直接用内积计算：

$$x_i=⟨\mathbf{\alpha },{\mathbf{e}}_i⟩$$

即 $\mathbf{\alpha }=\sum ⟨\mathbf{\alpha },{\mathbf{e}}_i⟩{\mathbf{e}}_i$（傅里叶展开）。

例：${\mathbb{R}}^n$ 的标准基 $\{{\mathbf{e}}_1,\dots ,{\mathbf{e}}_n\}$ 即为标准内积下的标准正交基。

相关：基 | 度量矩阵

格拉姆-施密特正交化

[!abstract] 格拉姆-施密特正交化过程

从任意一组线性无关的向量 ${\mathbf{\alpha }}_1,\dots ,{\mathbf{\alpha }}_m$ 出发，构造一组标准正交向量 ${\mathbf{q}}_1,\dots ,{\mathbf{q}}_m$，使得

$$\mathrm{span}\{{\mathbf{q}}_1,\dots ,{\mathbf{q}}_k\}=\mathrm{span}\{{\mathbf{\alpha }}_1,\dots ,{\mathbf{\alpha }}_k\}(k=1,\dots ,m)$$

步骤：

1. 正交化：${\mathbf{\beta }}_1={\mathbf{\alpha }}_1,{\mathbf{\beta }}_k={\mathbf{\alpha }}_k-\sum _{i=1}^{k-1}\frac{⟨{\mathbf{\alpha }}_k,{\mathbf{\beta }}_i⟩}{⟨{\mathbf{\beta }}_i,{\mathbf{\beta }}_i⟩}{\mathbf{\beta }}_i(k\ge 2)$
2. 单位化：${\mathbf{q}}_i=\frac{{\mathbf{\beta }}_i}{\Vert {\mathbf{\beta }}_i\Vert }(i=1,\dots ,m)$

例：将 ${\mathbb{R}}^3$ 中向量组 ${\mathbf{\alpha }}_1=(1,1,0{)}^{\mathrm{T}},{\mathbf{\alpha }}_2=(1,0,1{)}^{\mathrm{T}},{\mathbf{\alpha }}_3=(0,1,1{)}^{\mathrm{T}}$ 标准正交化（标准内积）。

第一步：${\mathbf{\beta }}_1={\mathbf{\alpha }}_1=(1,1,0{)}^{\mathrm{T}}$。

$${\mathbf{\beta }}_2={\mathbf{\alpha }}_2-\frac{⟨{\mathbf{\alpha }}_2,{\mathbf{\beta }}_1⟩}{⟨{\mathbf{\beta }}_1,{\mathbf{\beta }}_1⟩}{\mathbf{\beta }}_1=\left(\begin{array}{c}1\\ 0\\ 1\end{array}\right)-\frac{1}{2}\left(\begin{array}{c}1\\ 1\\ 0\end{array}\right)=\left(\begin{array}{c}\frac{1}{2}\\ -\frac{1}{2}\\ 1\end{array}\right)$$ $${\mathbf{\beta }}_3={\mathbf{\alpha }}_3-\frac{⟨{\mathbf{\alpha }}_3,{\mathbf{\beta }}_1⟩}{⟨{\mathbf{\beta }}_1,{\mathbf{\beta }}_1⟩}{\mathbf{\beta }}_1-\frac{⟨{\mathbf{\alpha }}_3,{\mathbf{\beta }}_2⟩}{⟨{\mathbf{\beta }}_2,{\mathbf{\beta }}_2⟩}{\mathbf{\beta }}_2=\left(\begin{array}{c}0\\ 1\\ 1\end{array}\right)-\frac{1}{2}\left(\begin{array}{c}1\\ 1\\ 0\end{array}\right)-\frac{1/2}{3/2}\left(\begin{array}{c}\frac{1}{2}\\ -\frac{1}{2}\\ 1\end{array}\right)=\left(\begin{array}{c}-\frac{2}{3}\\ \frac{2}{3}\\ \frac{2}{3}\end{array}\right)$$

第二步：单位化。

$${\mathbf{q}}_1=\frac{1}{\sqrt{2}}\left(\begin{array}{c}1\\ 1\\ 0\end{array}\right),{\mathbf{q}}_2=\frac{\sqrt{2}}{\sqrt{3}}\left(\begin{array}{c}\frac{1}{2}\\ -\frac{1}{2}\\ 1\end{array}\right),{\mathbf{q}}_3=\frac{\sqrt{3}}{2}\left(\begin{array}{c}-\frac{2}{3}\\ \frac{2}{3}\\ \frac{2}{3}\end{array}\right)$$

从 $\{{\mathbf{\alpha }}_i\}$ 到 $\{{\mathbf{q}}_i\}$ 的过渡矩阵是上三角的，这导出了 QR 分解。

相关：标准正交基 | 酉矩阵和QR分解

酉矩阵和 QR 分解

酉矩阵：满足 ${\overline{U}}^{\mathrm{T}}U=I$（即 $U^{-1}={\overline{U}}^{\mathrm{T}}$）的 $n$ 阶复矩阵称为酉矩阵。实情形下 $U^{\mathrm{T}}U=I$，称为正交矩阵。

酉矩阵的列（行）向量构成 ${\mathbb{C}}^n$ 在标准内积下的标准正交基。$|\det U|=1$。

QR 分解：

[!abstract] QR 分解

设 $A$ 是列满秩的 $m\times n$ 矩阵（$m\ge n$），则存在唯一的分解

$$A=QR$$

其中 $Q_{m\times n}$ 的列构成标准正交向量组（${\overline{Q}}^{\mathrm{T}}Q=I_n$），$R_{n\times n}$ 是对角元为正的上三角矩阵。

从格拉姆-施密特过程看：$A=({\mathbf{\alpha }}_1,\dots ,{\mathbf{\alpha }}_n)$，$Q=({\mathbf{q}}_1,\dots ,{\mathbf{q}}_n)$，而 $R$ 中的元素 $r_{ij}$ 即为正交化系数。具体地：

$$r_{ii}=\Vert {\mathbf{\beta }}_i\Vert >0,r_{ij}=⟨{\mathbf{\alpha }}_j,{\mathbf{q}}_i⟩(i<j)$$

$R$ 的对角元正是各步 ${\mathbf{\beta }}_i$ 的长度。

例：$A=\left(\begin{array}{cc}1& 1\\ 1& 0\\ 0& 1\end{array}\right)$ 的 QR 分解（承接上例 ${\mathbf{\alpha }}_1,{\mathbf{\alpha }}_2$）。

由 ${\mathbf{q}}_1=\frac{1}{\sqrt{2}}\left(\begin{array}{c}1\\ 1\\ 0\end{array}\right)$，$r_{11}=\Vert {\mathbf{\beta }}_1\Vert =\sqrt{2}$；$r_{12}=⟨{\mathbf{\alpha }}_2,{\mathbf{q}}_1⟩=\frac{1}{\sqrt{2}}$。

$${\mathbf{\beta }}_2={\mathbf{\alpha }}_2-r_{12}{\mathbf{q}}_1=\left(\begin{array}{c}1\\ 0\\ 1\end{array}\right)-\frac{1}{\sqrt{2}}\cdot \frac{1}{\sqrt{2}}\left(\begin{array}{c}1\\ 1\\ 0\end{array}\right)=\left(\begin{array}{c}\frac{1}{2}\\ -\frac{1}{2}\\ 1\end{array}\right),r_{22}=\Vert {\mathbf{\beta }}_2\Vert =\sqrt{\frac{3}{2}}$$ $$Q=\left(\begin{array}{cc}\frac{1}{\sqrt{2}}& \frac{1}{\sqrt{6}}\\ \frac{1}{\sqrt{2}}& -\frac{1}{\sqrt{6}}\\ 0& \frac{2}{\sqrt{6}}\end{array}\right),R=\left(\begin{array}{cc}\sqrt{2}& \frac{1}{\sqrt{2}}\\ 0& \sqrt{\frac{3}{2}}\end{array}\right)$$

$A$ 可逆（$m=n$）时，$Q$ 是酉矩阵（或正交矩阵），且分解唯一。

相关：格拉姆-施密特正交化 | 酉变换和正交变换

第三节 正交子空间与正交投影

正交子空间

设 $W_1,W_2$ 是内积空间 $V$ 的子空间。若 $\forall {\mathbf{w}}_1\in W_1,{\mathbf{w}}_2\in W_2$ 均有 $⟨{\mathbf{w}}_1,{\mathbf{w}}_2⟩=0$，则称 $W_1$ 与 $W_2$正交，记作 $W_1\perp W_2$。

若 $W_1\perp W_2$，则 $W_1\cap W_2=\{0\}$，且 $W_1+W_2$ 是直和。

向量 $\mathbf{\alpha }$ 与子空间 $W$正交（记作 $\mathbf{\alpha }\perp W$）指 $\mathbf{\alpha }$ 与 $W$ 中每个向量正交。

例：${\mathbb{R}}^3$ 中 $x$ 轴与 $y$ 轴正交，$x$ 轴与 $xy$ 平面不正交（$y$ 轴上的向量在 $xy$ 平面中但不与 $x$ 轴正交）。

正交补

子空间 $W\subseteq V$ 的正交补定义为：

$$\boxed{W^{\perp }=\{\mathbf{\alpha }\in V\mid ⟨\mathbf{\alpha },\mathbf{w}⟩=0,\forall \mathbf{w}\in W\}}$$

$W^{\perp }$ 是 $V$ 的子空间。对有限维内积空间：

$$\boxed{V=W\oplus W^{\perp }}$$

由此得 $\dim W^{\perp }=\dim V-\dim W$，且 $(W^{\perp }{)}^{\perp }=W$。

例：${\mathbb{R}}^3$ 中，$W=\mathrm{span}\{{\mathbf{e}}_1,{\mathbf{e}}_2\}$（$xy$ 平面），则 $W^{\perp }=\mathrm{span}\{{\mathbf{e}}_3\}$（$z$ 轴）。

正投影

由 $V=W\oplus W^{\perp }$，任意 $\mathbf{\alpha }\in V$ 可唯一分解为：

$$\mathbf{\alpha }=\mathbf{w}+{\mathbf{w}}^{\perp },\mathbf{w}\in W,{\mathbf{w}}^{\perp }\in W^{\perp }$$

$\mathbf{w}$ 称为 $\mathbf{\alpha }$ 在 $W$ 上的正投影（正交投影）。映射 $P_W:V\to W,P_W(\mathbf{\alpha })=\mathbf{w}$ 称为投影算子。

投影系数公式：若 $\{{\mathbf{e}}_1,\dots ,{\mathbf{e}}_r\}$ 是 $W$ 的一组标准正交基，则

$$\boxed{P_W(\mathbf{\alpha })=\sum _{i=1}^r⟨\mathbf{\alpha },{\mathbf{e}}_i⟩{\mathbf{e}}_i}$$

例：${\mathbb{R}}^3$ 中，$W=\mathrm{span}\{(1,1,0{)}^{\mathrm{T}},(0,0,1{)}^{\mathrm{T}}\}$（标准正交基），$\mathbf{\alpha }=(2,0,3{)}^{\mathrm{T}}$，则

$$P_W(\mathbf{\alpha })=⟨\mathbf{\alpha },{\mathbf{e}}_1⟩{\mathbf{e}}_1+⟨\mathbf{\alpha },{\mathbf{e}}_2⟩{\mathbf{e}}_2=1\cdot \left(\begin{array}{c}1\\ 1\\ 0\end{array}\right)+3\cdot \left(\begin{array}{c}0\\ 0\\ 1\end{array}\right)=\left(\begin{array}{c}1\\ 1\\ 3\end{array}\right)$$

距离与垂线最短原理

向量 $\mathbf{\alpha }$ 到子空间 $W$ 的距离定义为：

$$\boxed{d(\mathbf{\alpha },W)=\underset{\mathbf{w}\in W}{\min }\Vert \mathbf{\alpha }-\mathbf{w}\Vert }$$

[!abstract] 垂线最短原理

设 $W$ 是内积空间 $V$ 的子空间，$\mathbf{\alpha }\in V$。则 $\mathbf{\alpha }$ 到 $W$ 中最近的点恰是其正投影 $P_W(\mathbf{\alpha })$，即

$$\Vert \mathbf{\alpha }-P_W(\mathbf{\alpha })\Vert \le \Vert \mathbf{\alpha }-\mathbf{w}\Vert (\forall \mathbf{w}\in W)$$

等号成立 $⟺$ $\mathbf{w}=P_W(\mathbf{\alpha })$。

证明：任取 $\mathbf{w}\in W$，由于 $\mathbf{\alpha }-P_W(\mathbf{\alpha })\in W^{\perp }$ 而 $P_W(\mathbf{\alpha })-\mathbf{w}\in W$，两者正交。由勾股定理：

$$\Vert \mathbf{\alpha }-\mathbf{w}{\Vert }^2=\Vert (\mathbf{\alpha }-P_W(\mathbf{\alpha }))+(P_W(\mathbf{\alpha })-\mathbf{w}){\Vert }^2=\Vert \mathbf{\alpha }-P_W(\mathbf{\alpha }){\Vert }^2+\Vert P_W(\mathbf{\alpha })-\mathbf{w}{\Vert }^2\ge \Vert \mathbf{\alpha }-P_W(\mathbf{\alpha }){\Vert }^2$$

且等号成立 $⟺\Vert P_W(\mathbf{\alpha })-\mathbf{w}\Vert =0⟺\mathbf{w}=P_W(\mathbf{\alpha })$。

因此 $d(\mathbf{\alpha },W)=\Vert \mathbf{\alpha }-P_W(\mathbf{\alpha })\Vert$。

相关：正投影 | 正交补

第四节 保长同构与酉变换

保长线性映射与保内积线性映射

设 $V,W$ 是内积空间，$\mathcal{A}:V\to W$ 是线性映射。

• $\mathcal{A}$ 称为保长映射（等距映射），若 $\forall \mathbf{\alpha }\in V$，$\Vert \mathcal{A}(\mathbf{\alpha })\Vert =\Vert \mathbf{\alpha }\Vert$
• $\mathcal{A}$ 称为保内积映射，若 $\forall \mathbf{\alpha },\mathbf{\beta }\in V$，$⟨\mathcal{A}(\mathbf{\alpha }),\mathcal{A}(\mathbf{\beta })⟩=⟨\mathbf{\alpha },\mathbf{\beta }⟩$

[!abstract] 保内积与保长的等价性

线性映射 $\mathcal{A}$ 保内积 $⟺$ $\mathcal{A}$ 保长。

证明：

• $\Rightarrow$：取 $\mathbf{\beta }=\mathbf{\alpha }$，则 $\Vert \mathcal{A}(\mathbf{\alpha }){\Vert }^2=⟨\mathcal{A}(\mathbf{\alpha }),\mathcal{A}(\mathbf{\alpha })⟩=⟨\mathbf{\alpha },\mathbf{\alpha }⟩=\Vert \mathbf{\alpha }{\Vert }^2$。

• $\Leftarrow$（实情形）：$\Vert \mathcal{A}(\mathbf{\alpha }+\mathbf{\beta }){\Vert }^2=\Vert \mathbf{\alpha }+\mathbf{\beta }{\Vert }^2$。展开得

  $$\Vert \mathcal{A}(\mathbf{\alpha }){\Vert }^2+2⟨\mathcal{A}(\mathbf{\alpha }),\mathcal{A}(\mathbf{\beta })⟩+\Vert \mathcal{A}(\mathbf{\beta }){\Vert }^2=\Vert \mathbf{\alpha }{\Vert }^2+2⟨\mathbf{\alpha },\mathbf{\beta }⟩+\Vert \mathbf{\beta }{\Vert }^2$$

  由保长性 $\Vert \mathcal{A}(\mathbf{\alpha })\Vert =\Vert \mathbf{\alpha }\Vert$、$\Vert \mathcal{A}(\mathbf{\beta })\Vert =\Vert \mathbf{\beta }\Vert$，消去得 $⟨\mathcal{A}(\mathbf{\alpha }),\mathcal{A}(\mathbf{\beta })⟩=⟨\mathbf{\alpha },\mathbf{\beta }⟩$。

  复情形类似，利用 $\Vert \mathbf{\alpha }+\mathbf{\beta }{\Vert }^2$ 和 $\Vert \mathbf{\alpha }+i\mathbf{\beta }{\Vert }^2$ 恢复实部和虚部（极化恒等式）。

保内积（保长）线性映射必为单射：若 $\mathcal{A}(\mathbf{\alpha })=0$，则 $\Vert \mathbf{\alpha }\Vert =\Vert \mathcal{A}(\mathbf{\alpha })\Vert =0$，故 $\mathbf{\alpha }=0$。

酉变换与正交变换

设 $\mathcal{A}$ 是内积空间 $V$ 到自身的线性变换。

• 复内积空间（酉空间）上保内积的可逆线性变换称为酉变换；
• 实内积空间（欧几里得空间）上保内积的可逆线性变换称为正交变换。

由于有限维情形下保内积线性变换自动是单射 $\Rightarrow$ 满射 $\Rightarrow$ 可逆，故酉变换 / 正交变换等价于保内积线性变换。

矩阵刻画：取标准正交基，$\mathcal{A}$ 的矩阵为 $U$。则

$$\mathcal{A}\text{ 是酉变换}⟺{\overline{U}}^{\mathrm{T}}U=I(U\text{ 是酉矩阵})$$ $$\mathcal{A}\text{ 是正交变换}⟺U^{\mathrm{T}}U=I(U\text{ 是正交矩阵})$$

推导：设标准正交基下 $\mathbf{\alpha },\mathbf{\beta }$ 坐标分别为 $\mathbf{x},\mathbf{y}$，则 $\mathcal{A}(\mathbf{\alpha }),\mathcal{A}(\mathbf{\beta })$ 坐标分别为 $U\mathbf{x},U\mathbf{y}$。保内积 $⟺⟨U\mathbf{x},U\mathbf{y}⟩=⟨\mathbf{x},\mathbf{y}⟩⟺{\overline{\mathbf{y}}}^{\mathrm{T}}{\overline{U}}^{\mathrm{T}}U\mathbf{x}={\overline{\mathbf{y}}}^{\mathrm{T}}\mathbf{x}$ 对任意 $\mathbf{x},\mathbf{y}$ 成立 $⟺{\overline{U}}^{\mathrm{T}}U=I$。

酉变换（正交变换）的性质

设 $\mathcal{A}$ 是酉变换（或正交变换），则：

• 保长保内积：$\Vert \mathcal{A}(\mathbf{\alpha })\Vert =\Vert \mathbf{\alpha }\Vert$，$⟨\mathcal{A}(\mathbf{\alpha }),\mathcal{A}(\mathbf{\beta })⟩=⟨\mathbf{\alpha },\mathbf{\beta }⟩$

• 保正交性：$\mathbf{\alpha }\perp \mathbf{\beta }⟺\mathcal{A}(\mathbf{\alpha })\perp \mathcal{A}(\mathbf{\beta })$

• 特征值的模长为 1：若 $\mathcal{A}(\mathbf{\alpha })=\lambda \mathbf{\alpha }$，则 $|\lambda |=\frac{\Vert \mathcal{A}(\mathbf{\alpha })\Vert }{\Vert \mathbf{\alpha }\Vert }=1$

• 不同特征值的特征向量正交：若 $\lambda \ne \mu$，$\mathcal{A}(\mathbf{\alpha })=\lambda \mathbf{\alpha }$，$\mathcal{A}(\mathbf{\beta })=\mu \mathbf{\beta }$，则 $⟨\mathbf{\alpha },\mathbf{\beta }⟩=0$

  证明：$⟨\mathbf{\alpha },\mathbf{\beta }⟩=⟨\mathcal{A}(\mathbf{\alpha }),\mathcal{A}(\mathbf{\beta })⟩=⟨\lambda \mathbf{\alpha },\mu \mathbf{\beta }⟩=\lambda \bar{\mu }⟨\mathbf{\alpha },\mathbf{\beta }⟩$，由 $\lambda \bar{\mu }\ne 1$（因 $|\lambda |=|\mu |=1$ 且 $\lambda \ne \mu$）得 $⟨\mathbf{\alpha },\mathbf{\beta }⟩=0$。

• 行列式模长为 1：酉矩阵 $U$ 满足 $|\det U|=1$；正交矩阵 $O$ 满足 $\det O=\pm 1$

• 酉矩阵（正交矩阵）的全体构成群：$n$ 阶酉矩阵全体记作 $U(n)$，正交矩阵全体记作 $O(n)$，对乘法构成群。

• 标准正交基的像仍是标准正交基：若 $\{{\mathbf{e}}_i\}$ 是标准正交基，则 $\{\mathcal{A}({\mathbf{e}}_i)\}$ 也是标准正交基。

• 酉变换在标准正交基下的矩阵是酉矩阵（已在矩阵刻画中说明）。

相关：酉矩阵和QR分解 | 正投影 | 标准正交基

第五节 埃尔米特矩阵与酉相似标准形

埃尔米特矩阵与埃尔米特变换

$n$ 阶复矩阵 $H$ 称为埃尔米特矩阵（Hermite 矩阵，自伴矩阵），若

$$\boxed{{\overline{H}}^{\mathrm{T}}=H},\text{即}\overline{h_{ji}}=h_{ij}$$

等价地：$H^{\mathrm{T}}=\overline{H}$。实对称矩阵是埃尔米特矩阵的特例。

设 $V$ 是内积空间（酉空间或欧几里得空间），线性变换 $\mathcal{H}\in \mathcal{L}(V)$ 称为埃尔米特变换（自伴变换），若

$$\boxed{⟨\mathcal{H}(\mathbf{\alpha }),\mathbf{\beta }⟩=⟨\mathbf{\alpha },\mathcal{H}(\mathbf{\beta })⟩}(\forall \mathbf{\alpha },\mathbf{\beta }\in V)$$

即在 $V$ 上的内积中，$\mathcal{H}$ 可从一个变元“搬到”另一个变元而不改变内积的值。

矩阵与变换的对应：取 $V$ 的一组标准正交基，设 $\mathcal{H}$ 在该基下的矩阵为 $H$。对任意坐标 $\mathbf{x},\mathbf{y}$，有

$$⟨\mathcal{H}(\mathbf{\alpha }),\mathbf{\beta }⟩=⟨H\mathbf{x},\mathbf{y}⟩={\overline{\mathbf{y}}}^{\mathrm{T}}H\mathbf{x},⟨\mathbf{\alpha },\mathcal{H}(\mathbf{\beta })⟩=⟨\mathbf{x},H\mathbf{y}⟩={\overline{(H\mathbf{y})}}^{\mathrm{T}}\mathbf{x}={\overline{\mathbf{y}}}^{\mathrm{T}}{\overline{H}}^{\mathrm{T}}\mathbf{x}$$

故 $\mathcal{H}$ 是埃尔米特变换 $⟺{\overline{H}}^{\mathrm{T}}=H$，即其在标准正交基下的矩阵是埃尔米特矩阵。

例：${\mathbb{C}}^2$ 上标准内积下，矩阵 $H=\left(\begin{array}{cc}1& 1+i\\ 1-i& 2\end{array}\right)$ 满足 ${\overline{H}}^{\mathrm{T}}=H$，是埃尔米特矩阵。

相关：标准正交基 | 线性变换在基下的矩阵

埃尔米特变换的性质

设 $\mathcal{H}$ 是内积空间 $V$ 上的埃尔米特变换。

性质 1：特征值全为实数。

设 $\mathcal{H}(\mathbf{\alpha })=\lambda \mathbf{\alpha }$，$\mathbf{\alpha }\ne 0$。则

$$\lambda \Vert \mathbf{\alpha }{\Vert }^2=⟨\mathbf{\alpha },\lambda \mathbf{\alpha }⟩=⟨\mathbf{\alpha },\mathcal{H}(\mathbf{\alpha })⟩=⟨\mathcal{H}(\mathbf{\alpha }),\mathbf{\alpha }⟩=⟨\lambda \mathbf{\alpha },\mathbf{\alpha }⟩=\bar{\lambda }\Vert \mathbf{\alpha }{\Vert }^2$$

由 $\Vert \mathbf{\alpha }{\Vert }^2>0$ 得 $\lambda =\bar{\lambda }$，故 $\lambda \in \mathbb{R}$。

性质 2：不同特征值的特征向量正交。

设 $\lambda \ne \mu$，$\mathcal{H}(\mathbf{\alpha })=\lambda \mathbf{\alpha }$，$\mathcal{H}(\mathbf{\beta })=\mu \mathbf{\beta }$。则

$$\lambda ⟨\mathbf{\alpha },\mathbf{\beta }⟩=⟨\mathcal{H}(\mathbf{\alpha }),\mathbf{\beta }⟩=⟨\mathbf{\alpha },\mathcal{H}(\mathbf{\beta })⟩=\mu ⟨\mathbf{\alpha },\mathbf{\beta }⟩$$

（因 $\mu \in \mathbb{R}$，$\bar{\mu }=\mu$。）由 $\lambda \ne \mu$ 得 $⟨\mathbf{\alpha },\mathbf{\beta }⟩=0$。

性质 3：埃尔米特性质在酉相似下保持。

若 $H$ 是埃尔米特矩阵，$U$ 是酉矩阵，则 ${\overline{U}}^{\mathrm{T}}HU$ 也是埃尔米特矩阵：

$${\overline{({\overline{U}}^{\mathrm{T}}HU)}}^{\mathrm{T}}={\overline{U}}^{\mathrm{T}}{\overline{H}}^{\mathrm{T}}U={\overline{U}}^{\mathrm{T}}HU$$

即若 $A$ 酉相似于埃尔米特矩阵，则 $A$ 自身也是埃尔米特矩阵。

相关：特征值与特征向量 | 酉变换和正交变换

埃尔米特变换的对角化

[!abstract] 埃尔米特变换的谱定理

设 $\mathcal{H}$ 是有限维内积空间 $V$ 上的埃尔米特变换，则 $V$ 中存在一组标准正交基，使 $\mathcal{H}$ 在该基下的矩阵为实对角矩阵：

$$\mathcal{H}({\mathbf{e}}_1,\dots ,{\mathbf{e}}_n)=({\mathbf{e}}_1,\dots ,{\mathbf{e}}_n)\left(\begin{array}{ccc}{\lambda }_1& & \\ & \ddots & \\ & & {\lambda }_n\end{array}\right),{\lambda }_i\in \mathbb{R}$$

等价地：任意埃尔米特矩阵 $H$ 必可酉对角化，即存在酉矩阵 $U$ 使

$$\boxed{{\overline{U}}^{\mathrm{T}}HU=\mathrm{diag}({\lambda }_1,\dots ,{\lambda }_n),{\lambda }_i\in \mathbb{R}}$$

证明（数学归纳法）：对 $\dim V=n$ 归纳。

$n=1$ 时显然。设命题对维数 $<n$ 成立，考虑 $\dim V=n$ 的情形。

由于特征多项式在 $\mathbb{C}$ 上必有根，$\mathcal{H}$ 至少有一个特征值 ${\lambda }_1$（实数），对应特征向量 ${\mathbf{e}}_1$。将其规范化，使 $\Vert {\mathbf{e}}_1\Vert =1$。

令 $W=\mathrm{span}\{{\mathbf{e}}_1{\}}^{\perp }$。由埃尔米特性质：对任意 $\mathbf{w}\in W$，

$$⟨\mathcal{H}(\mathbf{w}),{\mathbf{e}}_1⟩=⟨\mathbf{w},\mathcal{H}({\mathbf{e}}_1)⟩=⟨\mathbf{w},{\lambda }_1{\mathbf{e}}_1⟩={\lambda }_1⟨\mathbf{w},{\mathbf{e}}_1⟩=0$$

故 $\mathcal{H}(\mathbf{w})\in W$，即 $W$ 是 $\mathcal{H}$ 的不变子空间。$\mathcal{H}$ 限制在 $W$ 上仍是埃尔米特变换，$\dim W=n-1$。

由归纳假设，$W$ 中存在标准正交基 ${\mathbf{e}}_2,\dots ,{\mathbf{e}}_n$ 使 $\mathcal{H}{|}_W$ 对角化。于是 ${\mathbf{e}}_1,{\mathbf{e}}_2,\dots ,{\mathbf{e}}_n$ 是 $V$ 的标准正交基，且 $\mathcal{H}$ 在此基下的矩阵为对角阵 $\mathrm{diag}({\lambda }_1,\dots ,{\lambda }_n)$。

此定理表明：埃尔米特变换总是可对角化的，且对角化可以用标准正交的特征向量基来实现，比一般矩阵的若尔当标准形更强。

相关：可对角化 | 标准正交基 | 正交补

正规矩阵与酉相似标准形

埃尔米特矩阵可酉对角化这一性质可推广到更一般的矩阵类。

[!abstract] 正规矩阵

矩阵 $A\in M_n(\mathbb{C})$ 称为正规矩阵，若它与自身的共轭转置可交换：

$$\boxed{{\overline{A}}^{\mathrm{T}}A=A{\overline{A}}^{\mathrm{T}}}$$

以下三类矩阵都是正规矩阵的特例：

类型	条件	共轭转置	特征值
埃尔米特矩阵	${\overline{A}}^{\mathrm{T}}=A$	$=A$	实数
斜埃尔米特矩阵	${\overline{A}}^{\mathrm{T}}=-A$	$=-A$	纯虚数或 $0$
酉矩阵	${\overline{A}}^{\mathrm{T}}=A^{-1}$	$=A^{-1}$	模长为 1

斜埃尔米特矩阵（反自伴矩阵）：满足 ${\overline{A}}^{\mathrm{T}}=-A$。$A$ 斜埃尔米特 $⟺iA$ 是埃尔米特矩阵。其特征值为纯虚数或零，且斜埃尔米特矩阵也可酉对角化。

酉矩阵已在酉矩阵和QR分解和酉变换和正交变换中介绍。酉矩阵的特征值模长均为 $1$。

[!abstract] 正规矩阵的酉对角化

$A$ 可酉对角化（即存在酉矩阵 $U$ 使 ${\overline{U}}^{\mathrm{T}}AU$ 为对角阵）$⟺$ $A$ 是正规矩阵。

换言之，正规矩阵是恰好可以通过酉相似化为对角形的矩阵类。埃尔米特矩阵、斜埃尔米特矩阵和酉矩阵都是正规矩阵，因此均可酉对角化。

此结论是复情形一般谱定理的核心：一个矩阵可通过酉变换对角化，当且仅当它与自己的共轭转置可交换。

相关：可对角化 | 埃尔米特矩阵与埃尔米特变换 | 酉变换与正交变换

9.双线性函数与二次型

第一节 双线性函数与二次型的定义

双线性函数

设 $V$ 是数域 $\mathbb{F}$ 上的线性空间。映射 $f:V\times V\to \mathbb{F}$ 称为 $V$ 上的双线性函数，若它对两个变元分别都是线性的：

$$\begin{array}{rl}f(k{\mathbf{\alpha }}_1+{\mathbf{\alpha }}_2,\mathbf{\beta })& =kf({\mathbf{\alpha }}_1,\mathbf{\beta })+f({\mathbf{\alpha }}_2,\mathbf{\beta })\\ f(\mathbf{\alpha },k{\mathbf{\beta }}_1+{\mathbf{\beta }}_2)& =kf(\mathbf{\alpha },{\mathbf{\beta }}_1)+f(\mathbf{\alpha },{\mathbf{\beta }}_2)\end{array}$$

例：${\mathbb{R}}^n$ 上的标准内积 $⟨\mathbf{x},\mathbf{y}⟩={\mathbf{x}}^{\mathrm{T}}\mathbf{y}$ 是双线性函数。$f(A,B)=\mathrm{tr}(AB)$ 是 $M_n(\mathbb{F})$ 上的双线性函数。

若 $f(\mathbf{\alpha },\mathbf{\beta })=f(\mathbf{\beta },\mathbf{\alpha })$ 对任意 $\mathbf{\alpha },\mathbf{\beta }$ 成立，则称 $f$ 为对称双线性函数。若 $f(\mathbf{\alpha },\mathbf{\beta })=-f(\mathbf{\beta },\mathbf{\alpha })$，则称 $f$ 为反对称双线性函数。

双线性函数的度量矩阵

取 $V$ 的一组基 ${\mathbf{e}}_1,\dots ,{\mathbf{e}}_n$。对 $\mathbf{\alpha }=\sum x_i{\mathbf{e}}_i$，$\mathbf{\beta }=\sum y_i{\mathbf{e}}_i$，由双线性性：

$$f(\mathbf{\alpha },\mathbf{\beta })=f\left(\sum _{i=1}^n{x}_i{\mathbf{e}}_i,\sum _{j=1}^n{y}_j{\mathbf{e}}_j\right)=\sum _{i=1}^n\sum _{j=1}^n{x}_i{y}_{j}f({\mathbf{e}}_i,{\mathbf{e}}_j)$$

定义矩阵 $A=(a_{ij}{)}_{n\times n}$，其中 $a_{ij}=f({\mathbf{e}}_i,{\mathbf{e}}_j)$，称为 $f$ 在该基下的度量矩阵。则

$$\boxed{f(\mathbf{\alpha },\mathbf{\beta })={\mathbf{x}}^{\mathrm{T}}A\mathbf{y}}$$

其中 $\mathbf{x}=(x_1,\dots ,x_n{)}^{\mathrm{T}}$，$\mathbf{y}=(y_1,\dots ,y_n{)}^{\mathrm{T}}$。

$f$ 是对称双线性函数 $⟺$ $A^{\mathrm{T}}=A$。$f$ 是反对称双线性函数 $⟺$ $A^{\mathrm{T}}=-A$。

不同基下的度量矩阵：设基变换 $({\mathbf{e}}^{\prime })=(\mathbf{e})P$，在新基下的度量矩阵为 $A^{\prime }$，则

$$\boxed{A^{\prime }=P^{\mathrm{T}}AP}$$

推导：$f({\mathbf{e}}_i^{\prime },{\mathbf{e}}_j^{\prime })=f({\sum }_k{p}_{ki}{\mathbf{e}}_k,{\sum }_l{p}_{lj}{\mathbf{e}}_l)={\sum }_{k,l}{p}_{ki}{p}_{lj}f({\mathbf{e}}_k,{\mathbf{e}}_l)=(P^{\mathrm{T}}AP{)}_{ij}$。

故同一双线性函数在不同基下的度量矩阵合同。

相关：基变换 | 度量矩阵

二次型的定义

设 $f$ 是 $V$ 上的对称双线性函数。称映射 $Q:V\to \mathbb{F}$，$Q(\mathbf{\alpha })=f(\mathbf{\alpha },\mathbf{\alpha })$ 为 $V$ 上的二次型（二次齐次函数）。

取定一组基 ${\mathbf{e}}_1,\dots ,{\mathbf{e}}_n$，设对称双线性函数 $f$ 的度量矩阵为 $A=(a_{ij}{)}_{n\times n}$（$A^{\mathrm{T}}=A$）。则对 $\mathbf{\alpha }=\sum x_i{\mathbf{e}}_i$：

$$\boxed{Q(\mathbf{\alpha })=f(\mathbf{\alpha },\mathbf{\alpha })={\mathbf{x}}^{\mathrm{T}}A\mathbf{x}=\sum _{i=1}^n\sum _{j=1}^n{a}_{ij}{x}_i{x}_j}$$

其中 $\mathbf{x}=(x_1,\dots ,x_n{)}^{\mathrm{T}}$ 是 $\mathbf{\alpha }$ 的坐标。$A$ 称为该二次型（在该基下）的矩阵，且 $A^{\mathrm{T}}=A$。

反之，给定对称矩阵 $A$ 和坐标 $\mathbf{x}$，${\mathbf{x}}^{\mathrm{T}}A\mathbf{x}$ 定义了 $V$ 上一个二次型。

二次型与对称双线性函数的一一对应：由极化恒等式

$$f(\mathbf{\alpha },\mathbf{\beta })=\frac{1}{2}[Q(\mathbf{\alpha }+\mathbf{\beta })-Q(\mathbf{\alpha })-Q(\mathbf{\beta })]$$

可知对称双线性函数与二次型互相唯一确定。

例：$Q(x_1,x_2,x_3)=x_1^2+4x_1{x}_2+2x_1{x}_3+3x_2^2+x_2{x}_3+5x_3^2$，矩阵为

$$A=\left(\begin{array}{ccc}1& 2& 1\\ 2& 3& \frac{1}{2}\\ 1& \frac{1}{2}& 5\end{array}\right),a_{ij}=a_{ji},a_{ii}\text{ 为平方项系数},a_{ij}(i<j)\text{ 为交叉项系数的一半}$$

相关：度量矩阵 | 化二次型为标准形

第二节 化二次型为标准形

变量替换与矩阵合同

对二次型 $Q(\mathbf{\alpha })={\mathbf{x}}^{\mathrm{T}}A\mathbf{x}$，做非退化线性替换 $\mathbf{x}=C\mathbf{y}$（$C$ 可逆），坐标 $\mathbf{x}$ 变为新坐标 $\mathbf{y}$：

$$Q(\mathbf{\alpha })={\mathbf{x}}^{\mathrm{T}}A\mathbf{x}=(C\mathbf{y}{)}^{\mathrm{T}}A(C\mathbf{y})={\mathbf{y}}^{\mathrm{T}}(C^{\mathrm{T}}AC)\mathbf{y}$$

新坐标系下的矩阵为 $B=C^{\mathrm{T}}AC$。

[!abstract] 矩阵合同

设 $A,B\in M_n(\mathbb{F})$，若存在可逆矩阵 $C$ 使得

$$\boxed{B=C^{\mathrm{T}}AC}$$

则称 $A$ 与 $B$ 合同（相合），记作 $A\simeq B$。

合同的等价解释：合同关系对应于同一个二次型在不同基下的矩阵表示。

合同关系的性质：

• 自反性：$A\simeq A$（取 $C=I$）
• 对称性：$A\simeq B\Rightarrow B\simeq A$（$B=C^{\mathrm{T}}AC\Rightarrow A=(C^{-1}{)}^{\mathrm{T}}B{C}^{-1}$）
• 传递性：$A\simeq B,B\simeq D\Rightarrow A\simeq D$
• 合同不改变矩阵的对称性（$A^{\mathrm{T}}=A\Rightarrow (C^{\mathrm{T}}AC{)}^{\mathrm{T}}=C^{\mathrm{T}}AC$）
• 合同的矩阵有相同的秩

[!warning] 合同与相似 合同 $B=C^{\mathrm{T}}AC$ 与相似 $B=P^{-1}AP$ 是不同的关系。两者的变换矩阵关系不同：合同用转置，相似用逆。但对正交矩阵 $C^{\mathrm{T}}=C^{-1}$，合同与相似一致。

相关：相似矩阵 | 基变换

标准形

二次型 $Q(\mathbf{x})={\mathbf{x}}^{\mathrm{T}}A\mathbf{x}$ 可通过适当的非退化线性替换化为只含平方项的形式：

$$\boxed{Q={\lambda }_1{y}_1^2+{\lambda }_2{y}_2^2+\cdots +{\lambda }_r{y}_r^2}$$

其中 $r=r(A)$。此形式称为二次型的标准形。等价地，$A$ 合同于对角阵 $\mathrm{diag}({\lambda }_1,\dots ,{\lambda }_r,0,\dots ,0)$。

配方法

步骤：通过逐步配方消去交叉项。

情形 1：存在平方项 $a_{ii}\ne 0$。以 $x_i$ 为主元，将所有含 $x_i$ 的项集中配方，消去所有含 $x_i$ 的交叉项。然后对剩余变量重复。

情形 2：所有 $a_{ii}=0$，但存在 $a_{ij}\ne 0(i\ne j)$。做替换

$$x_i=y_i+y_j,x_j=y_i-y_j,x_k=y_k(k\ne i,j)$$

此变换产生平方项 $2a_{ij}(y_i^2-y_j^2)$，再转入情形 1。

例：用配方法化 $Q(x_1,x_2,x_3)=x_1^2+4x_1{x}_2+2x_1{x}_3+x_2^2+2x_2{x}_3+3x_3^2$ 为标准形。

$$\begin{array}{rl}Q& =x_1^2+4x_1{x}_2+2x_1{x}_3+x_2^2+2x_2{x}_3+3x_3^2\\ & =(x_1^2+4x_1{x}_2+2x_1{x}_3)+x_2^2+2x_2{x}_3+3x_3^2\\ & =[x_1^2+2x_1(2x_2+x_3)+(2x_2+x_3{)}^2]-(2x_2+x_3{)}^2+x_2^2+2x_2{x}_3+3x_3^2\\ & =(x_1+2x_2+x_3{)}^2-3x_2^2-2x_2{x}_3+2x_3^2\end{array}$$

对剩余 $x_2,x_3$ 部分继续配方：

$$\begin{array}{rl}-3x_2^2-2x_2{x}_3+2x_3^2& =-3(x_2^2+\frac{2}{3}{x}_2{x}_3)+2x_3^2\\ & =-3[(x_2+\frac{1}{3}{x}_3{)}^2-\frac{1}{9}{x}_3^2]+2x_3^2\\ & =-3(x_2+\frac{1}{3}{x}_3{)}^2+\frac{7}{3}{x}_3^2\end{array}$$

令

$$y_1=x_1+2x_2+x_3,y_2=x_2+\frac{1}{3}{x}_3,y_3=x_3$$

得标准形 $Q=y_1^2-3y_2^2+\frac{7}{3}{y}_3^2$。从替换可解出 $C$（$x_3=y_3$，$x_2=y_2-\frac{1}{3}{y}_3$，$x_1=y_1-2y_2-\frac{1}{3}{y}_3$），则

$$C=\left(\begin{array}{ccc}1& -2& -\frac{1}{3}\\ 0& 1& -\frac{1}{3}\\ 0& 0& 1\end{array}\right),C^{\mathrm{T}}AC=\mathrm{diag}\left(1,-3,\frac{7}{3}\right)$$

相关：二次型的定义 | 规范型与惯性定理

第三节 规范型与惯性定理

复二次型的规范形

对复数域上的二次型，因任意非零复数可开平方，可通过进一步的非退化线性替换将标准形的系数全化为 $1$。令

$$z_i=\sqrt{{\lambda }_i}{y}_i(i=1,\dots ,r),z_j=y_j(j=r+1,\dots ,n)$$

得复二次型的规范形：

$$\boxed{Q=z_1^2+z_2^2+\cdots +z_r^2}$$

其中 $r=r(A)$。复二次型的规范形完全由秩 $r$ 唯一确定。两个复二次型等价（可通过非退化线性替换互化）$⟺$ 它们的秩相等。

实二次型的规范形

实数域上，可将正系数化为 $1$，负系数化为 $-1$。对标准形 $Q={\lambda }_1{y}_1^2+\cdots +{\lambda }_r{y}_r^2$，令

$$z_i=\{\begin{array}{ll}\sqrt{{\lambda }_i}{y}_i,& {\lambda }_i>0(i=1,\dots ,p)\\ \sqrt{-{\lambda }_i}{y}_i,& {\lambda }_i<0(i=p+1,\dots ,r)\\ y_i,& i>r\end{array}$$

得实二次型的规范形：

$$\boxed{Q=z_1^2+\cdots +z_p^2-z_{p+1}^2-\cdots -z_r^2}$$

惯性定理

[!abstract] 惯性定理（Sylvester）

实二次型经任意非退化实线性替换化为规范形时，正平方项的个数 $p$ 和负平方项的个数 $r-p$（其中 $r=r(A)$）是唯一确定的，不依赖于替换的选取。

$p$ 称为正惯性指数，$q=r-p$ 称为负惯性指数，二者的差 $p-q$ 称为符号差。

惯性定理的核心含义：虽然标准形的系数 ${\lambda }_i$ 可以不同，但正负号的分布是不变的。这反映了实二次型的本质特征。

证明思路：若存在两组替换给出规范形，设其正平方项个数分别为 $p$ 和 $p^{\prime }$ 且 $p<p^{\prime }$。构造子空间的方法可导出矛盾（维数公式）。具体地，设 $V_{+}=\mathrm{span}\{{\mathbf{e}}_1,\dots ,{\mathbf{e}}_p\}$（第一次正项对应坐标），$V_{-}^{\prime }=\mathrm{span}\{{\mathbf{e}}_{p^{\prime }+1}^{\prime },\dots ,{\mathbf{e}}_n^{\prime }\}$（第二次非正项坐标），计算维数可证明 $V_{+}\cap V_{-}^{\prime }\ne \{0\}$，取其中非零向量得矛盾。

例：$Q(x_1,x_2,x_3)=x_1^2+4x_1{x}_2+2x_2^2$，配方得 $Q=(x_1+2x_2{)}^2-2x_2^2=y_1^2-2y_2^2$，正惯性指数 $p=1$，负惯性指数 $q=1$，符号差 $=0$。

相关：标准形 | 正定二次型与正定矩阵

第四节 正定二次型与正定矩阵

二次型的分类

设 $Q(\mathbf{x})={\mathbf{x}}^{\mathrm{T}}A\mathbf{x}$ 是 $n$ 元实二次型（$A^{\mathrm{T}}=A$）。

• 正定：$Q(\mathbf{x})>0(\forall \mathbf{x}\ne 0)$
• 负定：$Q(\mathbf{x})<0(\forall \mathbf{x}\ne 0)$
• 半正定：$Q(\mathbf{x})\ge 0(\forall \mathbf{x})$，且存在 $\mathbf{x}\ne 0$ 使等号成立
• 半负定：$Q(\mathbf{x})\le 0(\forall \mathbf{x})$，且存在 $\mathbf{x}\ne 0$ 使等号成立
• 不定：既取正值又取负值

正定矩阵的等价条件

[!abstract] 正定矩阵的等价刻画

设 $A$ 为 $n$ 阶实对称矩阵，则以下条件等价：

1. $A$ 正定（$Q(\mathbf{x})={\mathbf{x}}^{\mathrm{T}}A\mathbf{x}>0,\forall \mathbf{x}\ne 0$）
2. $A$ 的特征值全大于零
3. 正惯性指数 $p=n$
4. $A$ 的各阶顺序主子式均大于零（Sylvester 判据）
5. 存在可逆上三角矩阵 $R$ 使 $A=R^{\mathrm{T}}R$（Cholesky 分解）

证明脉络：

$(1)⟺(3)$：正定 $⟺$ 规范形为全正号 $⟺p=n$。

$(1)⟺(2)$：存在正交矩阵 $Q$ 使 $Q^{\mathrm{T}}AQ=\mathrm{diag}({\lambda }_1,\dots ,{\lambda }_n)$。令 $\mathbf{y}=Q^{\mathrm{T}}\mathbf{x}$，则 ${\mathbf{x}}^{\mathrm{T}}A\mathbf{x}=\sum {\lambda }_i{y}_i^2>0(\forall \mathbf{y}\ne 0)⟺{\lambda }_i>0$。

$(1)⟺(4)$：Sylvester 判据。记 $A_k$ 为 $A$ 的前 $k$ 阶顺序主子矩阵。

• $\Rightarrow$：$A$ 正定 $\Rightarrow$ $A_k$ 作为 $A$ 在 $\mathrm{span}\{{\mathbf{e}}_1,\dots ,{\mathbf{e}}_k\}$ 上的限制也是正定的，故 $\det A_k>0$。
• $\Leftarrow$：对 $n$ 归纳。$\det A_1=a_{11}>0$，可配方消去第一行第一列，得到低一阶的矩阵，其顺序主子式仍为正。由归纳假设得证。

$(1)⟺(5)$：由配方法知 $A=C^{\mathrm{T}}DC$，其中 $D$ 对角元为正。令 $R=\sqrt{D}C$（$\sqrt{D}$ 为对角元取平方根的对角阵），则 $A=R^{\mathrm{T}}R$，且 $C$ 是上三角（配方过程中每次只消下方变量），故 $R$ 也是上三角。此即 Cholesky 分解。

用 QR 分解的简洁证明：因 $A$ 正定，由谱定理存在正交矩阵 $U$ 使

$$A=U^{\mathrm{T}}\mathrm{diag}({\lambda }_1,\dots ,{\lambda }_n)U,{\lambda }_i>0$$

令 $\sqrt{\Lambda }=\mathrm{diag}(\sqrt{{\lambda }_1},\dots ,\sqrt{{\lambda }_n})$，则 $A=(\sqrt{\Lambda }U{)}^{\mathrm{T}}(\sqrt{\Lambda }U)=B^{\mathrm{T}}B$（$B=\sqrt{\Lambda }U$）。

对 $B$ 做 QR 分解：$B=QR$，其中 $Q$ 正交、$R$ 上三角且对角元为正。于是

$$A=B^{\mathrm{T}}B=(QR{)}^{\mathrm{T}}(QR)=R^{\mathrm{T}}(Q^{\mathrm{T}}Q)R=R^{\mathrm{T}}R$$

$R$ 即为所求的上三角矩阵。

顺序主子式判据示例

判断 $A=\left(\begin{array}{ccc}2& -1& 0\\ -1& 2& -1\\ 0& -1& 2\end{array}\right)$ 是否正定。

各阶顺序主子式：

$${\Delta }_1=2>0,{\Delta }_2=\left|\begin{array}{cc}2& -1\\ -1& 2\end{array}\right|=3>0,{\Delta }_3=\left|\begin{array}{ccc}2& -1& 0\\ -1& 2& -1\\ 0& -1& 2\end{array}\right|=4>0$$

所有顺序主子式 $>0$，故 $A$ 正定。

在求极值中的应用

多元函数 $F(x_1,\dots ,x_n)$ 在驻点处的 Hessian 矩阵 $H_F$ 是实对称矩阵。若 $H_F$ 正定，则驻点为极小值点；若 $H_F$ 负定，则为极大值点；若不定，则为鞍点。

例：$f(x,y)=x^2+xy+y^2$，梯度零点在 $(0,0)$，Hessian

$$H_f=\left(\begin{array}{cc}2& 1\\ 1& 2\end{array}\right),{\Delta }_1=2>0,{\Delta }_2=3>0$$

$H_f$ 正定，故 $(0,0)$ 为极小值点。

相关：惯性定理 | 标准形 | 特征值与特征向量