向量空间入门 （二）

· · 个人记录

6.5 实内积空间

对于选定的域 F, 我们已经证明所有有限维 F -向量空间 V 均可以与某个 F^n 同构，而域 F 在无限时绝大多数时候都选择的是 \R 或者 \mathbb C , 在此我们考虑当 F = \R 的情况，引入内积来考虑 \R^n 上的一些性质.

定义 6.5.1: \R-向量空间也称为实向量空间, 对于实向量空间 V 上的内积指映射 (\cdot | \cdot) : V \times V \to \R , 其满足 :

$$(v_1+v_2|w) = (v_1|w)+(v_2|w)$$ $$(v|w_1+w_2) = (v|w_1) + (v|w_2)$$ $$(tv| w) = (v|tw) = t(v|w)$$ $(2).$ **对称性**, 即 $(v|w) = (w|v) 满足这个条件的空间 $(V,(\cdot | \cdot))$ 被称为**实内积空间**. **定义 6.5.2:** 设 $(V , (\cdot | \cdot))$ 是一个实内积空间，我们定义 : $(1).$ 对于 $v \in V$, 定义 $|| x|| = \sqrt{(x |x)}$ 称为 $v$ 的**长度**. 有直接的推论 $||tx|| = t ||x||$, 对于 $t \in \R $(3).$ 若向量 $v,w$ 满足 $(v|w) =0$, 则称他们正交，记为 $v \bot w$, 此概念可以拓展到子空间之间 . **命题 6.5.3(配极化):** 设 $(V,(\cdot|\cdot))$ 是一个实内积空间，则对于 $v,w \in V$ 有: $$(v|w) = \frac{1}{2}(||v+w||^2 - ||v||^2-||w||^2)$$

证明：根据双线性有

\frac{1}{2}(||v+w||^2 - ||v||^2-||w||^2) = \frac{1}{2}((v+w|v+w) -(v|v)-(w|w)) = \frac{1}{2}((v+w|v) + (v+w|w) - (v|v)-(w|w)) = (v|w)

作为推论，若 v 与 w 正交，我们有 :

||v+w||^2 = ||v||^2 +|| w||^2

这个命题告诉我们，既可以通过定义内积来定义长度(一种更抽象的说法好像是范数norm), 也可以反过来.

定理 6.5.4(Cauchy–Bunyakovsky–Schwarz 不等式): 设 (V, (\cdot|\cdot)) 是实内积空间，则对于任意 v,w \in V 我们有 :

(v|w)^2 \le (v|v) (w|w)

等号成立当且仅当 v,w 线性相关 .

证明：如果 v,w 线性相关，则说明存在 t 使得 v =tw 或者 w=tv (有其中一个为 0 的情形), 那么此时等号成立是自明的.

直接暴力展开不是很好做，我们考虑从线性无关入手，如果 v,w 线性无关，则肯定有 w \neq 0, 进一步有对于任意 t \in \R, v + wt \neq 0. 再由内积的正定性有 :

0<(v+tw|v+tw) = t^2(w|w) + 2t(v|w) +(v|v)

可以将其视为关于 t 的二次函数，其没有实根，我们有 :

4(v |w)^2 - 4(v|v)(w|w) <0

此即 :

(v|w)^2 < (v|v)(w|w)

推论 6.5.5(三角形不等式): 设 (V,(\cdot|\cdot)) 为内积空间，则对任何 v,w \in V 皆有 :

||v+w|| \le ||v|| + ||w||

内积定义里不自带三角形不等式，而导出的长度却满足三角形不等式，这对于其形成一个度量很有帮助 .

等号成立当且仅当存在 t \ge 0 满足 v=tw 或者 w=tv.

证明：直接平方 :

||v+w||^2 =||v||^2 + ||w||^2 +2(v|w) \le ||v||^2 + ||w||^2 +2|(v|w)| \le ||v||^2 + ||w||^2 + 2||v||||w|| = (||v||+||w||)^2

等号成立，当且仅当 (v|w) \ge 0 且 v,w 线性相关 .

定义 6.5.6: 设 (V,(\cdot|\cdot)) 是一个实内积空间，定义其相应的距离函数为 :

d : V \times V \to \R_{\ge 0} (v,w) \to ||w-v||

可以验证其符合有关度量空间的三条性质.

定义 6.5.7: 设 (V,(\cdot|\cdot)_V) 和 (W,(\cdot|\cdot)_W) 都是实内积空间，线性映射 \varphi: V \to W 若对于所有 v \in V 均满足 ||v||_V = || \varphi(v) ||_W, 则称其是保距的.

由于内积可以用长度来表达，保距映射也自然保内积，其自然可以得出 (v_1 | v_2)_V = (\varphi(v_1) | \varphi(v_2))_W

由于 \ker(\varphi) =0，可以得出 \varphi 是单射，故而保距映射实际上是很强的嵌入.

定义 6.5.8: 设 (V,(\cdot|\cdot)_V) 和 (W,(\cdot|\cdot)_W) 都是实内积空间 ，设 T :V \to W 是线性保距映射，若存在 T' : W \to V 是线性保距映射，且 TT' = \text{id}_W , T'T = \text{id}_V ，则称 T 为内积空间的同构 .

如果 T 是保距映射且是双射，则其显然也是同构 .

6.6 Gram-Schmidt 正交化

考虑在 \R^n 的标准内积上，我们习惯于考虑正交的基，我们现在尝试推广这一结果.

有了正交化，我们就可以自然建立一般的内积空间和 \R^n 之间的紧密联系.

即我们均考虑 \R-向量空间，其自然肯定与某个 \R^n 同构，正交化为我们提供了一个比较典范的同构选择.

定义 6.6.1: 若 V 中的一族元素两两正交，则称其为正交向量族，为了准备标准化，若每个元素都是单位向量，则称其为单位正交向量族.

引理 6.6.2: 任意正交向量族 S皆线性无关.

证明：

假设他们线性有关 ，则存在 (a_s)_{s \in S}:

\sum_{s \in S} a_s s =0

只需选定某个 t \in S, 我们计算内积 :

(\sum_{s \in S} a_s s| t) = \sum_{s \in S} a_s (s |t) = a_t (t |t) = (0 |t) =0

由于 t \neq 0 , 我们有 (t | t) >0 ，进而 a_t =0, 由于 t \in S 可以任取，自然有 \forall t \in T, a_t =0, 故而 S 是线性无关的.

定义 6.6.3: 若一个基是单位正交向量族，则其是单位正交基.

命题 6.6.4: 对于内积空间 (V,(\cdot|\cdot)) , 记 n:= \dim V , 由引理 6.6.2. 可知任意 n 个单位向量组成的单位正交向量族必然是单位正交基. 设他们是 v_1,...,v_n, 对于 v \in V :

v = \sum_{i=1}^n (v|v_i) v_i

证明：我们考虑先写成常规分解的形式 :

v =\sum_{i=1}^n a_i v_i

由于对于 i \neq j 有 (v_i|v_j)=0，同时取 (\cdot | v_i) :

(v | v_i) = a_i

证毕.

命题 6.6.5: 设 (V,(\cdot|\cdot)) 是有限维内积空间, (v_1,...,v_n) 是一组单位正交基，则其确定的线性映射 :

\R^n \to V (a_1,...,a_n) \to \sum_{i=1}^n a_iv_i

是内积空间的同构 .

证明：

由于 (v_1,...,v_n) , 其自然已经是向量空间的同构，我们还需验证对长度的保持/或者对内积的保持。我们直接验证后者 :

(\sum_{i=1}^n a_iv_i | \sum_{i=1}^n b_i v_i) = \sum_{i,j} a_ib_j (v_i|v_j) =\sum_{i=1}^n a_ib_i

定理 6.6.6(Gram-Schmidt 正交化): 对于向量空间 V, 若 \dim V \le \aleph_0, 则其存在单位正交基.

证明：

我们先根据基的存在性(定理 6.1.5) 取出一组基 v_1,v_2,... 我们考虑基于此构造出一组单位正交基。 先选定 w_1 = v_1 作为我们构造的起点 . 假设我们已经给出了 (w_1,.,,,w_{k-1}), w_k 只需满足 \forall 1 \le i \le k-1 皆满足 (w_i | w_k) =0 即可.

考虑 w_2 的给出，我们先简单考虑在 \R^n 中的情形，画一下图可以得到:

w_2 = v_2 - \frac{(w_1 | v_2)}{(w_1 | w_1)}w_1

对于一般的向量空间 V, 只需验证 (w_1 |w_2) = (v_1 | v_2 - \frac{(v_1 | v_2)}{(v_1 | v_1)}v_1) =0 即可.

对于加入后面的向量，我们只需考虑一个方向一个方向的去调整. 在这里，对上面那个 (w_1 | w_2) 的验证将启发我们给出 w_k 的递归定义方式 :

(v_1 | v_2 - \frac{(v_1 | v_2)}{(v_1 | v_1)}v_1) = (v_1 | v_2) - \frac{(v_1 |v_2)}{(v_1 | v_1)} (v_1 | v_1) =0

那么我们想要 \forall 1 \le i \le k-1, 有 (w_i, v_k - x_i) =0， 我们只需取 x_i = \frac{(w_i | v_k)}{(w_i | w_i)} w_i 即可 .

而由于 \forall 1 \le i \le k-1 部分的 w_i 以及是一族正交向量族，我们把对于每个 x_i 都减掉，不会使得其与其他的 w_j 的正交性破坏，故而我们只需递归定义 :

w_1 =v_1 w_k = v_k - \sum_{i=1}^n \frac{(w_i | v_k)}{(w_i |w_i)}w_i , k \in \Z_{\ge 2}

即可，至于单位正交，只需给出 :

u_k = \frac{1}{||w_k||} w_k , k\ge 1

即可.

不过这个证明依旧有问题，我们实际上还需证明 w_k 均为非零. 若 w_k 为 0, 则有 v_k \in \langle w_1,...,w_{k-1} \rangle = \langle v_1 ,..., v_{k-1} \rangle ，这与 v 线性无关矛盾.

推论 6.6.7: 任何有限维内积空间 V 中的单位正交向量族都能扩充为单位正交基.

这是 6.1.5, 6.6.2 ,6.6.6 的直接应用.

定义 6.6.8(正交补): 设 V 是向量空间 ，S \subseteq V ，定义其正交补为 :

S^\bot := \{ v \in V : \forall s \in S, (s | v) =0 \}

Remark 6.6.9: 正交补的基本性质 ,对于 S \subseteq V:

$(2).$ $S^\bot = \langle S \rangle ^\bot$.

验证是显然的，根据内积的双线性即可得.

定义 6.6.9: 给定内积空间 (V, (\cdot | \cdot)) 和一族子空间 (V_i)_{i \in I} 若其满足 :

$(2).$ $\forall i,j \in I, i \neq j$ 有 $V_i \bot V_j

则称 V = \oplus_{i \in I} V_i 是正交直和分解.

命题 6.6.10: 给定内积空间 (V, (\cdot | \cdot)) 和其有限维的自空间 V_0, 则有正交直和分解 :

V = V_0 \oplus V_0^\bot

证明：

$$v - \sum_{i=1}^m (v_i | v) v_i \in V_0^\bot$$ 即可 . 其中分量 $(v_i |v)$ 来自于命题 $6.6.4$. 由于 $\langle v_1,...v_m \rangle = V_0$, 我们只需确定对于 $v_i$ 是否正交即可 : $$( v_j |v - \sum_{i=1}^m (v_i | v) v_i )= ( v_j | v ) - \sum_{i=1}^m (v_i | v) (v_i|v_j) =0$$ 证毕。 以上命题为直和分解给出的投影映射 $P(v_0 + v_1) := v_0$ 提供了一种典范的取法. 至于几何图像，我们可以简单想象为二维 $\R^2$ 的情形. 可以想象 $P$ 也被称为**正交投影算子**. 简单梳理一下： > **定义 6.6.11:** 设 $V$ 是向量空间， $V_0$ 是其中一个有限维的子空间，有正交直和分解 $V = V_0 \oplus V_0^\bot$, 给出正交投影映射 $P$ : > > $$P : V \to V_0$$ > > $$(v_0 + v_1) \to v_0 , (v_0 ,v_1) \in V_0 \times V_0^\bot$$ > **命题 6.6.12:** 设 $(V, (\cdot | \cdot))$ 是内积空间， $V_0$ 是有限维的子空间，则对于 $v \in V$, 距离 $|| u - v|| ， u \in V_0$ , 取到极小值当且仅当 $u$ 是 $v$ 在 $V_0$ 上的正交投影 . 证明： 对于 $v$ 给出正交直和分解 $v = v_0 + v_1$ , $v_0 \in V_0$, $v_1 \in V_0^\bot$ , 我们应用命题 $6.5.3$ 的推论 : $$||u-v||^2 =|| u-v_0 -v_1||^2 = || u -v_0 ||^2 + || v_1 ||^2 \ge || v_1 ||^2 $$ 等式成立当且仅当 $u=v_0$, 即 $u$ 是 $v$ 在 $V_0$ 上的正交投影. ## 6.7 内积空间的线性映射 > **定义-命题 6.7.1:** 设 $(V, (\cdot | \cdot))$ 和 $(W, \cdot | \cdot)$ 都是有限维的内积空间，则对于线性映射 $T : V \to W$, 存在唯一线性映射 $T^* : W \to V$ 满足 : > > $$ \forall (v,w) \in V \times W , (Tv | w)_W = (v | T^* w)$$ > > 称 $T^*$ 是 $T$ 的**伴随映射**. 证明 : 显然只需从基出发构造整个 $T^*$，我们设 $(v_1,...,v_n)$ 是内积空间 $V$ 的单位正交基, $(w_1,...,w_m)$ 是内积空间 $W$ 的单位正交基. 对于任意 $(i,j)$ 我们要有 $(Tv_i |w_j)_W = (v_i | T^* w_j)_V$. 我们考虑 $Tv_i = \sum_{k=1}^m a_{ik} w_k$, 则 $(Tv_i|w_j)_W = a_{ij} = (v_i | T^* w_j)_V$. 其成立的必要条件是 $T^* w_j$ 转化后，其在 $i$ 上的分量是 $a_{ij}$. 我们固定 $j$, 取遍 $1 \le i \le n$, 即可确定每个分量上的情况 ,即: $$T^* w_j = \sum_{i=1}^n a_{ij} v_i$$ 即给出了证明。 我们对比 : $$T v_i = \sum_{j=1}^m a_{ij} w_j$$ $$T^* w_j = \sum_{i=1}^n a_{ij} v_i$$ 可以感受到 $T^*$ 与转置矩阵的联系 . > **命题 6.7.2** 设 $(V, (\cdot | \cdot))$ 和 $(W, \cdot | \cdot)$ 都是有限维的内积空间, 线性映射 $T : V \to W$ 是内积空间的同构，当且仅当 $T^* = T^{-1}$. 证明： 设 $T$ 是保距的同构 , 则: $$(Tv|w)_W = (T^{-1}Tv | T^{-1} w)_V = (v | T^{-1}w)_V , (v,w) \in V \times W$$ 故而有 $T^* = T^{-1}$. 反之设 $T^* = T^{-1}$ ,