线性代数(7): 欧几里得空间(3)

Posted by w@hidva.com on July 14, 2024

系列导言, 本文是作者在学习 Peter D. Lax 线性代数及其应用的读书笔记, 侧重于记录我当时没有看懂的部分, 以及对书中部分知识点的一些扩展. 非常零散, 不成系统. 对本系列的使用最好是读者也在学习 Peter D. Lax 线代并且恰好有某处不太明白, 可以参考着本系列说不定这里就有答案. 本系列文章在写作时参考了互联网上零零散散非常多的资料在此表示感谢!

7.3.zy1 $\lVert x \rVert^2$ 有界时 $\lVert Ax \lVert^2$ 也有界.

证明: $A = (r_1, \cdots, r_m)^T$, 这里 $r_i$ 为 A 的行向量, 则 $Ax = ((r_1, x), \cdots, (r_m ,x))^T$. 由 $\lVert Ax \lVert^2 = \sum_{i=1}^n (r_i, x)^2, (r_i, x)^2 \le \lVert r_i \rVert^2 \lVert x \rVert^2$ 可知 $\lVert Ax \lVert^2 \le \lVert x \rVert^2 \sum_{i=1}^n \lVert r_i \rVert^2$.

再次回到原文, 原文说的是 A 是 $X \to U$ 的线性映射, 也即这里 A 并不一定可以矩阵化. 由定理 4 格拉姆-施密特方法我们可以在 X, U 中各自找到一组标准正交基, 此时对于 $\forall x \in X, x =\sum_{i=1}^n x_i e^X_i$ 以及 $\forall u \in U, u = \sum_{i=1}^m u_i e^U_i$. 令 $A(e^X_j) = \sum_{i=1}^m a_{ij} e^U_i$. 此时 $A(x) = \sum_{i=1}^m u_i e^U_i$:

\[\begin{pmatrix} u_1 \\ u_2 \\ \vdots \\ u_m \end{pmatrix} = \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots & \vdots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \\ \end{pmatrix} \begin{pmatrix} x_1 \\ x_2 \\ \vdots \\ x_n \end{pmatrix}\]

在标准正交基加持下 $(x, x), (u, u)$ 等同于 $R^n, R^m$ 中定义的内积. 此时便继续可以用上面矩阵式方法来证明了.

P.S. $\lVert A \rVert = \sup_{\lVert x \rVert = 1} \lVert Ax \rVert = \sup{\lVert Ax \rVert \mid \lVert x \rVert = 1 }$. 可得 $\lVert A \rVert \le \sqrt{\sum_{i=1}^m \lVert r_i \rVert^2} = D$. 那么这里是否是等于关系呢? 不一定是. 回想几何学中的知识, $(r_i, x)^2 \le \lVert r_i \rVert^2 \lVert x \rVert^2$ 等号成立当且仅当 $r_i, x$ 共线. 因此若 A 的所有 $r_i$ 都共线, 那么此时 $\lVert A \rVert = D$. 反之若不全共线, 此时还需要证明 $\forall \epsilon \gt 0, \exists x, \lVert Ax \rVert \gt D - \epsilon$, 没证出来.

后面提到 D 是希尔伯特-施密特范数/Frobenius 范数, 所以 $\lVert A \rVert$ 确实不一定等于 D, 不然如果等于的话这俩范数就是一回事呀=.

P.S. 这里也能看到 $\lVert A \rVert \le \sqrt{\sum_{j=1}^n \lVert c_j \rVert^2} $. 这里 $c_j$ 是 A 的列向量.

P.S. 暂且认为这里定义的范数只对有限维空间生效. 对于无限维空间, 目前暂不考虑. 我主要没搞清楚定理 15 中哪个部分对无限维不生效?

P.S. 这正是陶哲轩 analysis ii 习题 17.1.4 啊, 后面需要用到分析内容翻书的时候才想起来..

练习 6, $\vert a_{ij} \vert \le \lVert A \rVert$. 这里就光秃秃的这几个字, 我只好认为这里 $a_{ij}$ 便是我们上面 A 矩阵中的元素. 以 $a_{11}$ 为例, 令 $x_1 = 1, x_2 = 0 = x_3 = \cdots$, 此时 $u_i = a_{i1}$, 由定理 13(i) 可知 $\vert a_{11} \vert \le \lVert Ax \rVert = \sqrt{\sum_{i=1}^m a_{i1}^2} \le \lVert A \rVert$.

P.S. 这里也可以证明 $\sum_{i=1}^m a_{ij}^2 \le \lVert A \rVert^2, \forall j$.

P.S. 由等距线性映射 $\lVert Mx \rVert = \lVert x \rVert$ 可得 $\lVert M \rVert = 1$. 注意等距映射定义是 $\lVert Mx - My \rVert = \lVert x - y \rVert$, 这里 M 并不一定是线性映射, 所以 $Mx - My = M(x - y)$ 不一定成立.

定理 14, $\lVert A \rVert = \lVert A^* \rVert$ 我觉得有点意思, 这里 $A \in \mathcal{L}(X, U)$, 我本来意味着只有当线性映射 A, B 都位于 $\mathcal{L}(X, U)$ 时, 其范数才有比较的意义.

P.S. 由这个定理我们便可以证明 $\sum_{j=1}^n a_{ij}^2 \le \lVert A \rVert^2, \forall i$.


定理 16 这里有限维欧几里得空间指的就是 $\mathbb{R}^n$, 其证明依赖了实数分量相关性质. 不过如同 7.3.zy1 在引入标准正交基中之后定理 16 对于普通的有限维欧几里得空间也成立.

记 $T = { \lVert Ax \rVert \mid \lVert x \rVert = 1 }, \lVert A \rVert = \max_{\lVert x \rVert = 1} \lVert Ax \rVert$ 这里是说 $\lVert A \rVert \in T$, 下面证明下这个结论, 又翻起了久违的陶哲轩 analysis==

7.3.zy2, n 维欧几里得空间 $X$ 与 $R^n$ 在线性映射 f 下同构, $\forall K \subseteq X$, K 是有界/闭/紧致当且仅当 $f(K)$ 是有界/闭/紧致的. 这个证明很直观.

7.3.zy3, $K = {x \mid \lVert x \rVert = 1}$ 是有界/闭/紧致的.

证明: 令 $B(0, 1)$ 表示半径为 1 的开球, K 等同于 B 的边界点集合 $\partial B = (R^n \setminus B) \cap \overline{B}$, 这俩都是闭集, 由 Tao 定理 12.2.15 闭集的交集也是闭集. 令由 Tao 定理 12.5.7 海涅-博雷尔定理可知 K 是紧致的.

7.3.zy4 K 在线性映射 A 的像 A(K) 是紧致的.

证明: 由 Tao 习题 17.1.4 可知线性映射都是连续的, 结合 Tao 定理 13.3.1 连续函数保持紧致性可证.

7.3.zy5, 对于有限维欧几里得空间 X, 设映射 $D(x) = \lVert x \rVert, D: X \to R$, 求证 D 是连续的.

证明: $\lVert a \rVert = \lVert b + (a - b) \rVert \le \lVert b \rVert + \lVert a - b \rVert$, 也即 $\lVert a \rVert - \lVert b \rVert \le \lVert a - b \rVert$. 结合连续定义易证.

考虑集合 $T = D(A(K))$, DA 是连续的, K 是紧致的, 所以 T 也是紧致的/有界的/闭的. $\lVert A \rVert = \sup T$ 是 T 的极限点, 自然有 $\lVert A \rVert \in T$.

原文 “根据定理 16, 该序列存在收敛于 x 的子列 … 取得最小值” 翻译不对, 见英文原文更合适. 这里依赖着 Tao 定理 13.3.2 最大值原理.

定理 17, 略作补充

  • 这里 “局部紧致” 是个新概念, 不是 Tao 定义 12.5.1 紧致性概念. 局部紧致的定义就是原文所给出的: 有界序列必存在收敛子列.

  • 定理 4 格拉姆-施密特方法对无限维空间也生效, 从定理 4 证明过程也能看到其并未依赖有限维.

  • $\lVert x_1 \rVert = 1$ 其序列自然是有界的.