线性代数是我目前重建数学知识体系学习计划的一部分, 我这里选用的教材是 David C.Lay 的线性代数及其应用. 这本书非常详细! 以至于我的读书笔记很薄. 不像当初学习代数学基础那样, 教材很薄, 反而我笔记记得很多=. =
这里很遗憾, 如果我的时间再多一点, 我就准备使用 Peter Lax 的线性代数及其应用了! 我很喜欢这种从公理入手一步步建立体系的教材, 就如我之前使用过的陶哲轩 analysis, 代数学基础, 几何学基础等教材. 等这段时间忙完了, 一定要好好学下 Lax 老师的线性代数及其应用.
第 1 章, 线性代数中的线性方程组
定理 6, 这个应该有个 typo 吧, 应该是说 $w = p + tv_h \mid t \in \mathbb{R}$ 都是 $Ax = b$ 的解吧? 证明: $A(p+tv_h) = Ap + t A v_h = b$.
定理 10, 证明, 假设除 A 之外, T = Bx, 则意味着 $\forall x, Ax = Bx$. 我们令 $x=(1, 0, \cdots, 0)$, 则此时 Ax 为 A 第一列, 即 A, B 第一列相同. 依此可证 A, B 所有列都相同.
第 2 章, 矩阵代数
定理 2, 矩阵的来源是为了求解线性方程组, 同理矩阵运行的定义也是要符合这一要求, 见 ‘矩阵乘法’ 节了解矩阵乘法的定义的背后故事. AB 乘法运算表明 A, B 对应线性变换的复合操作. 以 A(B+C) = AB + AC 证明为例, 这里 (A(B+C))(x) = A((B+C)(x)) = A(B(x) + C(x)) = (AB)(x) + (AC)(x) = (AB + AC)(x).
习题 22, 若 B 各列线性相关, 则 AB 各列也线性相关.
证明: $B = [b_1, \cdots, b_p], \exists \lambda_i, \sum_{i=1}^p \lambda_i b_i = 0$, 此时 $AB = [A b_1, \cdots, A b_p]$ 这里将 A 看作某个线性变换, $A b_i = A(b_i), \lambda_i A b_i = A(\lambda_i b_i), \sum_{i=1}^p \lambda_i A b_i = \sum_{i=1}^p A(\lambda_i b_i) = A(\sum_{i=1}^p \lambda_i b_i) = A(0) = 0$.
P.S. 从这个可以看到若 AB 各列线性无关, 则 B 各列也线性无关. 但 AB 各列线性无关并不能推出 A 各列线性无关.
P.S. 这里若 B 线性无关, 则 AB 不一定线性无关.
习题 23, 若 CA = I, 则 A 各列线性无关.
证明: 此时 CA 列向量线性无关, 由上可知 A 各列一定也线性无关.
P.S. 此时可以推出 A 可逆. 且 $(CA) A^{-1} = I A^{-1}, C (A A^{-1}) = A^{-1}, C = A^{-1}$.
P.S. 这也算是解决了我在学习 几何学基础: 向量与欧氏空间(4) 时遗留的一个问题, 在 (20) 处我们证得方阵 Q 列向量彼此正交且模为 1, 即 $Q^TQ = I$, 书上说此时 Q 是正交矩阵, 但正交矩阵也要求 $Q Q^T = I$. 我当时一直没有搞懂为啥 $Q Q^T = I$…换而言之若 Q 列向量彼此正交, 则行向量也彼此正交.
习题 25, A 是 m * n 矩阵, 现有 n * m 矩阵 C, D; $CA = I_{nn}, AD = I_{mm}$, 证明 m = n.
证明: CA = I, 意味着 CA 列向量线性无关, 即 A 列向量线性无关, 所以 n <= m. 同理 D 列向量线性无关, m <= n. 所以 m = n.
定理 5, 这里由定理 5 可知若 A 可逆, 则 A 列向量线性无关.
证明: 假设 A 列向量线性相关, 那么 $\exists b = (b_1, \cdots, b_n), a_1 b_1 + \cdots + a_n b_n = 0, A = [a_1, \cdots, a_n], Ab = 0$, 则对于 $x = (x_1, \cdots, x_n), Ax = A(x + b)$, 与定理 5 矛盾了.
定理 5.zy1, 若 A 列向量线性无关, 则 A 可逆.
证明: 已知 A 列向量线性无关, 则 $\forall b \in \mathbb{R}^n$ 都可以写作 A 列向量线性组合, 即第 1 章, 定理 4(d) 可得 A 行等价于 I. 结合定理 7 可得结论.
习题; 设 AB=AC, B, C 为 n * p 矩阵. 若 A 可逆, 则 B = C.
证明: 一种证明: $A^{-1}(AB) = A^{-1}(AC)$ 推出 $B = C$. 另一种证明设 $B - C = [b_1, \cdots, b_p], A(B-C) = [A b_1, \cdots, A b_p] = 0, A b_i = 0$. $A = [a_1, \cdots, a_n], b_i = (b_{1i}, \cdots, b_{ni}), A b_i = \sum_{j=1}^n a_j b_{ji} = 0$, A 列向量线性无关可得 $b_{ji} = 0, \forall j$, 即 B = C.
P.S. 从第二种证明可以看到, 若 A 不可逆, 则 B 可能并不为 C.
习题, AB 可逆, 则 A 可逆且 B 可逆.
证明: 由习题 2.22 可知此时 B 可逆. AB 可逆, $B^{-1}$ 可逆, 所以 $(AB) B^{-1}$ 可逆, 即 A 可逆.
2.5.zy1, 下三角矩阵都是可逆的
证明: 归纳法证明即可, 对于 $A_{k+1}$ 其分块为:
\[\begin{pmatrix} 1 & 0 \\ x_{k1} & A_k \end{pmatrix} \begin{pmatrix} 1 & 0 \\ -A_k^{-1} x_{k1} & A_k^{-1} \end{pmatrix} = I_{k+1}\]P.S. 从这里可以看出下三角矩阵的逆也是下三角.
2.8.zy1, 简化阶梯形矩阵列空间的基是主元列.
证明: 很容易观察到, 可以以例 7 矩阵 B 为例.
2.8.zy2, 行变换不会改变列的线性相关关系. A 经行变换为 B, 则 A 中 $C_k = a_i C_i + a_j C_j$ 当且仅当 B 中 $C_k = a_i C_i + a_j C_j$. 若 A 中某列不能表示为其他列的线性组合, 当且仅当 B 中同样位置的列也具有相同性质.
证明: 分别讨论三种行变换即可.
2.9.14, 秩定理. 基本变量, 自由变量在 Page17 中定义, 这个定义是认为指定的, 以 Page148 例 6 为例, 我们也可以令 $x_1, x_2, x_3$ 为自由变量, 将 $x_4, x_5$ 表示为 $x_1, x_2, x_3$ 的线性组合. 那么有个问题, 能否用 $x_1, x_2$ 的线性组合表示出 $x_3, x_4, x_5$ 呢? 答案是不可能. 由例 6 可以看出零空间的维数等于自由变量的个数, 考虑到线性空间所有基具有相同的维数, 假设可以用 $x_1, x_2$ 的线性组合表示出 $x_3, x_4, x_5$, 那么这意味着例 6 零空间的维数是 2 了, 矛盾了.
现在考虑一般情况 $Ax = 0$, 易证所有基本变量都可以表示为自由变量的线性组合, 即此时解的参数形式是, 这里 $x_{i_j}, j \in [1, k]$ 为自由变量:
\[C = \begin{pmatrix} \sum_{j=1}^k a_j x_{i_j} \\ \sum_{j=1}^k b_j x_{i_j} \\ \vdots \\ x_{i_1} \\ \vdots \\ x_{i_k} \\ \vdots \\ \sum_{j=1}^k c_j x_{i_j} \end{pmatrix} = x_{i_1} \underbrace{\begin{pmatrix} a_1 \\ b_1 \\ \vdots \\ 1 \\ \vdots \\ 0 \\ \vdots \\ c_1 \end{pmatrix}}_{C_1} + \cdots + x_{i_k} \underbrace{ \begin{pmatrix} a_k \\ b_k \\ \vdots \\ 0 \\ \vdots \\ 1 \\ \vdots \\ c_k \end{pmatrix}}_{C_k}\]容易看到仅当 $x_{i_k} = 0, \forall k$ 时, C 才可能为 0. 即 $C_1, \cdots, C_k$ 线性无关, 且零空间的所有解都是他们的线性组合, 即 $C_1, \cdots, C_k$ 是零空间的基.
Lay 老师喜欢不加证明直接引用某一定理, 我不喜欢, 后续会换为 Lax 老师的线性代数及其应用.
