线性代数(9): 矩阵微积分(4)

Posted by w@hidva.com on July 14, 2024

系列导言, 本文是作者在学习 Peter D. Lax 线性代数及其应用的读书笔记, 侧重于记录我当时没有看懂的部分, 以及对书中部分知识点的一些扩展. 非常零散, 不成系统. 对本系列的使用最好是读者也在学习 Peter D. Lax 线代并且恰好有某处不太明白, 可以参考着本系列说不定这里就有答案. 本系列文章在写作时参考了互联网上零零散散非常多的资料在此表示感谢!

9.4.zy1, 设 A 为给定的方阵, 则对任意的 $\epsilon \gt 0$, 存在一个矩阵范数使得 $\lVert A \rVert \le \rho(A) + \epsilon$.

证明: 令 $A = Q_A J_A Q_A^{-1}, J_A = Q_A^{-1} A Q_A $, 这里 $J_A$ 为 A 的 Jordan 标准形. 令 D 为附录 10 定义的矩阵 $D = \mbox{diag}(\epsilon, \epsilon^2, \cdots, \epsilon^n)$, 则由附录 10 公式 14 可得:

\[D^{-1} J_A D = \begin{pmatrix} \lambda_1 & \epsilon & 0 & \cdots & 0 \\ 0 & \lambda_2 & \epsilon & \cdots & 0 \\ 0 & 0 & \lambda_3 & \cdots & 0 \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & 0 & \cdots & \lambda_n \end{pmatrix}\]

定义 $\lVert B \rVert_{\epsilon} = \lVert D^{-1} Q_A^{-1} B Q_A D \rVert_1$, $\lVert \cdot \rVert_1$ 为矩阵的 1-范数. 易证范数 $\lVert \cdot \rVert_{\epsilon}$ 满足矩阵范数 4 个要求. $\lVert A \rVert_{\epsilon} = \lVert D^{-1} J_A D \rVert_1 = \max(\vert \lambda_1 \vert, \vert \epsilon + \lambda_2 \vert, \cdots, \vert \epsilon + \lambda_n \vert) \le \rho(A) + \epsilon$

P.S. 本来我以为由这个易证 $\forall \epsilon \gt 0$, 存在一个矩阵范数, 使得 $\forall A, \lVert A \rVert_{\epsilon} \le \rho(A) + \epsilon$. 但好像并不是易证, 甚至这个命题正确性与否我还不确定..


矩阵幂级数, 仿照着 Tao analysis 定理 15.1.6 我们定义下矩阵幂级数以及其若干性质. $\sum_{k=0}^{\infty}z_k (A - z_0 I)^k$

P.S. 讲究一点的话, 这里 $z_k, z_0$ 来自某个矩阵对应的数域. 我们这里将其视为实数/复数好了.

9.4.zy2, 若 $S(A)=\sum_{k=0}^{\infty} c_k z^k$ 的收敛半径为 $R$,且 $A$ 有一种矩阵范数 $\lVert A \rVert < R$,则 $\sum_{k=0}^{\infty} c_k A^k$ 绝对收敛。

证明: 注意到 $\lVert c_k A^k \rVert \leq |c_k| \lVert A \rVert^k$, 由 $\lVert A \rVert < R$ 知幂级数 $ \sum_{k=0}^{\infty} |c_k| \lVert A \rVert^k $ 收敛. 再由级数比较判别法可知 $\sum_{k=0}^{\infty} \lVert c_k A^k \rVert$ 收敛.

P.S. 根据范数等价性这意味着所有范数下都收敛.

9.4.zy3, 设幂级数 $\sum_{k=0}^{\infty} c_k z^k$ 的收敛半径为 $R$, $A \in \mathbb{C}^{n \times n}$,则

  1. 当 $\rho(A) < R$ 时,$\sum_{k=0}^{\infty} c_k A^k$ 绝对收敛,
  2. 当 $\rho(A) > R$ 时,$\sum_{k=0}^{\infty} c_k A^k$ 发散。

证明: 当 $\rho(A) < R$ 时,存在正数 $\epsilon$ 使得 $\rho(A) + \epsilon < R$, 于是存在某个矩阵范数 $\lVert \cdot \rVert$ 使得 $\lVert A \rVert < R$,因此 $\sum_{k=0}^{\infty} c_k A^k$ 绝对收敛。

反之,若 $\rho(A) > R$,设 $ \rho(A) = \lambda_0 > R, A x_0 = \lambda_0 x_0, x_0^H x_0 = 1 $ 如果 $\sum_{k=0}^{\infty} c_k A^k$ 收敛,那么

\[x_0^H \left( \sum_{k=0}^{\infty} c_k A^k \right) x_0 = \sum_{k=0}^\infty c_k x_0^H A^k x_0 = \sum_{k=0}^\infty c_k \lambda_0^k\]

也收敛,与 $\sum_{k=0}^\infty c_k z^k$ 在 $|z| = \lambda_0 > R$ 时发散矛盾,即得。

9.4.zy4, 设 $\sum_{k=0}^{\infty} a_k (z - z_0)^k$ 为以 $z_0$ 为展开点的幂级数,$A$ 为 $n$ 阶方阵,如果 $A$ 的所有特征值均落在收敛圆内,即 $\lVert \lambda_i - z_0 \rVert < r$,其中 $\lambda_i$ 为 $A$ 的任意特征值,则矩阵级数 $\sum_{k=0}^{\infty} a_k (A - z_0 I)^k$ 绝对收敛。若有特征值 $\lambda_i$ 使得 $\lVert \lambda_i - z_0 \rVert > r$,则级数 $\sum_{k=0}^{\infty} a_k (A - z_0 I)^k$ 发散。

证明: 设 $B = A - z_0 I$, 则易证若 a 是 A 特征值, 则 $a-z_0$ 是 B 的特征值. 反之若 b 是 B 的特征值, 则 $b+z_0$ 是 A 的特征值. $\lVert a - z_0 \rVert \lt r, \forall a$ 等价于 $\lVert b \rVert \lt r, \forall b$, 结合 9.4.zy3 易证.


在进一步研究矩阵幂级数在紧致集合上一致收敛之前, 需要一些引理.

9.4.zy5 $f_k: X \to \mathbb{R}^n$ 一致收敛到函数 $f: X \to \mathbb{R}^n$ 当且仅当 $f_{i,k}: X \to \mathbb{R}$ 一致收敛到函数 $f_i: X \to \mathbb{R}$. 这里 $f = (f_1, \cdots, f_n)$.

证明: 主要利用了不等式 $\vert f_{i,k} - f_i \vert \le \lVert f_k - f \rVert \le \sum_{i=1}^n \vert f_{i,k} - f_i \vert$, 这里 $\lVert \cdot \rVert$ 可以用最传统的欧几里得范数. 参考 Tao 命题 12.1.18

9.4.zy6, 仿照着 Tao 定义 14.5.5 上确界范数, 14.5.7 Weierstrass M-Test. $f: X \to Y$, X 是度量空间, Y 是赋范空间. 定义 F 上确界范数 $\lVert f\lVert_{\infty} = \sup_{x\in X} \lVert f(x)\lVert_Y$.

设 $(f^{(k)})_{k=1}^{\infty}, f^{(k)}: X \to \mathbb{R}^n$ 是使级数 $\sum_{k=1}^{\infty} \lVert f^{(k)} \lVert_{\infty}$ 收敛, 那么 $\sum_{k=0}^{\infty}f^{(k)}$ 一致收敛某个连续函数 f.

证明: 对于 $f^{(k)}$ 每一个分量 $f^{(k)}_i$ 易证 $\lVert f^{(k)}_i \rVert_{\infty} \le \lVert f^{(k)} \rVert_{\infty}$, 对每一个分量应用定理 14.5.7 Weierstrass M-Test 可得结论.

9.4.zy7, 仿照着 Tao 定理 15.1.6(c) 紧致集合上一致收敛, 矩阵级数 $\sum_{k=0}^{\infty} c_k A^k$ 在紧致区间 $\lVert A \rVert \le r$ 上一致收敛到 S. 这里 $0 \lt r \lt R$, R 为收敛半径. f 在其定义域 $\lVert A \rVert \lt R$ 上连续.

证明: 仿照着 15.1.6(c) 证明过程即可, 使用 9.4.zy6 作为 Weierstrass M-Test 矩阵版本.


P.S. Lie groups and Lie algebras 介绍了矩阵级数相关知识.