柯西不等式、杨氏不等式、赫尔德不等式、闵可夫斯基不等式

· · 个人记录

本文起笔于 2021.12.30。

柯西不等式、杨氏不等式、赫尔德不等式、闵可夫斯基不等式在许多不同的领域还有不同的形式，本篇只介绍关于度量空间的形式，不明白什么是度量空间也没关系，不影响阅读。

柯西不等式（Cauchy）

设 a_i\ge0,b_i\ge0，则有

\sum_{i=1}^{n}a_ib_i\le\left(\sum_{i=1}^{n}a_i^2\right)^{1\over2}\left(\sum_{i=1}^{n}b_i^2\right)^{1\over2}

当且仅当向量 (a_1,...,a_n) 与 (b_1,...,b_n) 平行时等式成立。

证明：归纳法

当 n=1 时显然有结论成立

归纳假设对于 n 时及之前有结论成立，现在证明对于 n+1 结论成立。

若 a_1=...=a_n=a_{n+1}=0，则结论成立，否则 a_1,...,a_{n+1} 不全为 0，然那个不为 0 的 a_i 与 a_1 交换数值（这不影响结论），故不妨假设 a_1>0。

为便于证明，首先令

M_{m}=\sum_{i=1}^{m}a_ib_i,\ A_m=\sum_{i=1}^{m}a_i^2,\ B_m=\sum_{i=1}^{m}b_i^2

由归纳假设知

M_n^2\le A_nB_n

注意到

(A_n+a_{n+1}^2)(B_n+b_{n+1}^2)=A_nB_n+a_{n+1}^2B_n+b_{n+1}^2A_n+a_{n+1}^2b_{n+1}^2

用均值不等式处理右端中间两项

a_{n+1}^2B_n+b_{n+1}^2A_n\ge 2a_{n+1}b_{n+1}M_{n}

于是有

\begin{aligned} (A_n+a_{n+1}^2)(B_n+b_{n+1}^2)&\ge M_n^2+2a_{n+1}b_{n+1}M_{n}+a_{n+1}^2b_{n+1}^2\\ &=(M_n+a_{n+1}b_{n+1})^2\\ &=M_{n+1}^2\\ \end{aligned}

由归纳假设知当且仅当 \exists c>0 满足 c\cdot(a_1,...,a_{n})=(b_1,...,b_n) 时，有等式

M_n^2=A_nB_n

此时 B_n=c^2 A_n，且 A_n>0，故当且仅当 a_{n+1}^2B_n=b_{n+1}^2A_n 即 c\cdot a_{n+1}=b_{n+1} 时有

a_{n+1}^2B_n+b_{n+1}^2A_n= 2a_{n+1}b_{n+1}M_{n}

于是当且仅当 c\cdot(a_1,...,a_{n+1})=(b_1,...,b_{n+1}) 时有

M_{n+1}^2=A_{n+1}B_{n+1}

于是由归纳法知对任意 n\in\mathbb{N}^+ 有结论成立。

容易验证把关于 a_i,b_i\ge 0 的条件放宽到 a_i,b_i\in\mathbb{R} 时，柯西不等式及其等式成立条件仍然成立。

证毕。

杨氏不等式（Young）

设 a,b\ge0,\ p,q>1,\ {1\over p}+{1\over q}=1 则有

ab\le \frac{a^p}{p}+\frac{b^q}{q}

当且仅当 a^{1\over p}=b^{1\over q} 时等式成立。

证明

若 a=b=0 则有不等式成立，否则 a 与 b 不全为 0 不妨设 b>0。

考虑杨氏不等式的等价形式

a^{1\over p}b^{1\over q}\le \frac{a}{p}+\frac{b}{q} \left(\frac{a}{b}\right)^{1\over p}\le \frac{1}{p}\cdot\left(\frac{a}{b}\right)+1-\frac{1}{p} \left(\frac{a}{b}\right)^{1\over p}\le \frac{1}{p}\cdot\left(\frac{a}{b}-1\right)+1

作换元 x=\frac{a}{b}，则等价于

x^{1\over p}\le\frac{1}{p}\cdot(x-1)+1

设 f(x)=x^{1\over p}，因为 {1\over p} <1 所以 f(x) 是 [0,+\infty) 上的上凸函数，而直线 y=\frac{1}{p}\cdot(x-1)+1 是 f(x) 在 x=1 处的切线，故上述不等式成立，即杨不等式成立。

当且仅当 x=1 有

x^{1\over p}=\frac{1}{p}\cdot(x-1)+1

也即当且仅当 a=b 有

a^{1\over p}b^{1\over q}=\frac{a}{p}+\frac{b}{q}

当且仅当 a^p=b^q 有

ab= \frac{a^p}{p}+\frac{b^q}{q}

证毕。

n 度量空间下的杨氏不等式

设 x_1,...,x_n\ge0,\ p_1,...,p_n>1,\sum_{i=1}^{n} {1\over p_i}=1 则有

\prod_{i=1}^{n}x_i\le\sum_{i=1}^{n}\frac{x_i^{p_i}}{p_i}

当且仅当 x_1^{p_1}=...=x_i^{p_i}=...=x_n^{p_n} 时等式成立。

证明

与证明 2 度量空间下的杨氏不等式的方法相似，只不过需要利用 n-1 维函数 f(x_1,...,x_{n-1}) 的上凸性

f(x_1,...,x_{n-1})=\prod_{i=1}^{n-1}x_i^{1\over p_i}

证毕。

赫尔德不等式（Hölder）

设 a_i,b_i\ge0,\ p,q>1,\ {1\over p}+{1\over q}=1 则有

\sum_{i=1}^{n}a_ib_i\le\left(\sum_{i=1}^{n}a_i^p\right)^{1\over p}\left(\sum_{i=1}^{n}b_i^q\right)^{1\over q}

当且仅当向量 (a_1^p,...,a_n^p) 与 (b_1^q,...,b_n^q) 平行时等式成立。

显然柯西不等式是赫尔德不等式的特例。

证明

若a_1=...=a_n=0 或 b_1=...=b_n=0 则显然有结论成立，否则不妨假设 a_1,b_1>0。

设一个待定系数 t>0，由杨氏不等式知

\begin{aligned} \sum a_ib_i&=\sum (t\cdot a_i)\left(\frac{b_i}{t}\right)\\ &\le\frac{t^p}{p}\cdot\left(\sum a_i^p\right)+\frac{1}{q\cdot t^q}\cdot\left(\sum b_i^q\right) \end{aligned}

现在令

t^p\cdot\left(\sum a_i^p\right)=\frac{1}{t^q}\cdot\left(\sum b_i^q\right)

注意到 \sum b_i^q\neq 0，再根据 p\cdot q=p+q 有

t=\left(\frac{\sum a_i^p}{\sum b_i^q}\right)^{1\over{pq}}

于是有

\frac{t^p}{p}\cdot\left(\sum a_i^p\right)=\frac{1}{p}\left(\sum_{i=1}^{n}a_i^p\right)^{1\over p}\left(\sum_{i=1}^{n}b_i^q\right)^{1\over q} \frac{1}{q\cdot t^q}\cdot\left(\sum b_i^q\right)=\frac{1}{q}\left(\sum_{i=1}^{n}a_i^p\right)^{1\over p}\left(\sum_{i=1}^{n}b_i^q\right)^{1\over q}

所以有

\sum_{i=1}^{n}a_ib_i\le\left(\sum_{i=1}^{n}a_i^p\right)^{1\over p}\left(\sum_{i=1}^{n}b_i^q\right)^{1\over q}

其中杨氏不等式等式成立的充要条件是

(t\cdot a_i)^{p}=\left(\frac{b_i}{t}\right)^{q}

即

t^{pq}\cdot a_i^{p}=b_i^{q}

即 t^{pq}\cdot (a_1^{p},...,a_n^{p})=(b_1^{q},..., b_n^{q})

注意到

t^{pq}=\frac{\sum a_i^p}{\sum b_i^q}

于是 (a_1^{p},...,a_n^{p}) 与 (b_1^{q},..., b_n^{q}) 平行时就有赫尔德不等式成立。

再考虑到当 (a_1^{p},...,a_n^{p}) 与 (b_1^{q},..., b_n^{q}) 不平行时，那些累加起来的杨氏不等式其中至少有一个不取等，故此时有赫尔德不等式不取等。

故赫尔德不等式等式成立的充要条件是 (a_1^p,...,a_n^p) 与 (b_1^q,...,b_n^q) 平行。

证毕。

赫尔德不等式还可以做一个小推广

设 a_n,b_n\ge0,\ p,q,r>1,\ {1\over p}+{1\over q}={1\over r} 则有

\left(\sum_{i=1}^{n}(a_ib_i)^r\right)^{1\over r}\le\left(\sum_{i=1}^{n}a_i^p\right)^{1\over p}\left(\sum_{i=1}^{n}b_i^q\right)^{1\over q}

当且仅当向量 (a_1^p,...,a_n^p) 与 (b_1^q,...,b_n^q) 平行时等式成立。

证明

考虑到 r<p,\ r<q,\ {r\over p}+{r\over q}={1}，然后应用赫尔德不等式即可。

证毕。

下文不再区分两种形式的赫尔德不等式。

n 度量空间下的赫尔德不等式

设 x_{i,j}\ge0,\ r>1,\ p_i>1,\ \sum_{i=1}^{n} {1\over p_i}={1\over r} 其中 (1\le i\le n,1\le j\le m) 则有

\left(\sum_{j=1}^{m}\left(\prod_{i=1}^{n}x_{i,j}\right)^r\right)^{1\over r}\le\prod_{i=1}^{n}\left(\sum_{j=1}^{m}x_{i,j}^{p_i}\right)^{1\over {p_i}}

定义一组向量 \vec {x_i}=(x_{i,1}^{p_i},...,x_{i,m}^{p_i}) ，当且仅当 \vec {x_i} 相互平行时等式成立。

证明

用赫尔德不等式和归纳法即可。

当 n=1 和 n=2 时显然有结论成立。

归纳假设对于 n-1 及之前有结论成立，现在证明对于 n 也有结论成立。

首先证明当 \sum_{i=1}^{n} {1\over p_i}=1 时的不等式及其等式成立的充要条件

\sum_{j=1}^{m}\prod_{i=1}^{n}x_{i,j}\le\prod_{i=1}^{n}\left(\sum_{j=1}^{m}x_{i,j}^{p_i}\right)^{1\over {p_i}}

令 s>1 满足 \frac{1}{s}=\sum_{i=1}^{n-1}\frac{1}{p_i} 即 \frac{1}{s}=1-\frac{1}{p_n}，根据归纳假设于是有

\left(\sum_{j=1}^{m}\left(\prod_{i=1}^{n-1}x_{i,j}\right)^s\right)^{1\over s}\le\prod_{i=1}^{n-1}\left(\sum_{j=1}^{m}x_{i,j}^{p_i}\right)^{1\over {p_i}}

因为 \frac{1}{p_n}+\frac{1}{s}=1，应用赫尔德不等式得

\sum_{j=1}^{m}\left(x_{n,j}\prod_{i=1}^{n-1}x_{i,j}\right)\le\left(\sum_{j=1}^{m}x_{n,j}^{p_n}\right)^{1\over p_n}\left(\sum_{j=1}^{m}\left(\prod_{i=1}^{n-1}x_{i,j}\right)^s\right)^{1\over s}

再用上归纳假设得出的结论，就得出

\sum_{j=1}^{m}\prod_{i=1}^{n}x_{i,j}\le\prod_{i=1}^{n}\left(\sum_{j=1}^{m}x_{i,j}^{p_i}\right)^{1\over {p_i}}

等式成立的充要条件为

x_{n,j}^{p_n}=(\prod_{i=1}^{n-1}x_{i,j})^s a_1^{p_1}x_{1,j}^{p_1}=...=a_i^{p_i}x_{i,j}^{p_i}=...=a_{n-1}^{p_{n-1}}x_{n-1,j}^{p_{n-1}}\quad(1\le j\le m)

其中 a_i>0 为与 j 不相关的常系数

令 c_j>0 为与 i 不相关但与 j 相关的常系数，满足

c_j^{1\over s}=a_1^{p_1}x_{1,j}^{p_1}=...=a_i^{p_i}x_{i,j}^{p_i}=...=a_{n-1}^{p_{n-1}}x_{n-1,j}^{p_{n-1}}

于是有

x_{i,j}=c_j^{1\over {sp_i}}/a_i

于是有

\begin{aligned} x_{n,j}^{p_n}&=(\prod_{i=1}^{n-1}x_{i,j})^s\\ &=\prod_{i=1}^{n-1}c_j^{1\over p_i}/\left(\prod_{i=1}^{n-1}a_i^s\right)\\ &=c_j^{1\over s}/a_n^{p_n} \end{aligned}

其中 a_n^{p_n}=\prod_{i=1}^{n-1}a_i^s ，也为与 j 不相关的常系数。

故有

a_1^{p_1}{\vec {x_1}}=...=a_i^{p_i}{\vec {x_i}}=...=a_{n}^{p_{n}}{\vec {x_n}}\quad(1\le j\le m)

即 \vec {x_i}\ (1\le i\le n) 互相平行。

然后可以证出当 \sum_{i=1}^{n} {1\over p_i}=\frac{1}{r} 时的不等式及其等式成立的充要条件。

证毕。

闵可夫斯基不等式（Minkowski）

设 a_i,b_i\ge0,\ p>1，则有

\left(\sum_{i=1}^{n}(a_i+b_i)^p\right)^{1\over p}\le\left(\sum_{i=1}^{n}a_i^p\right)^{1\over p}+\left(\sum_{i=1}^{n}b_i^p\right)^{1\over p}

当且仅当向量 (a_1,...,a_n) 与 (b_1,...,b_n) 平行时等式成立。

证明

利用赫尔德不等式证。

\begin{aligned} \sum(a_i+b_i)^p&=\sum(a_i+b_i)^{p-1}a_i+\sum(a_i+b_i)^{p-1}b_i\\ &\le\left(\sum(a_i+b_i)^{q(p-1)}\right)^{1\over q}\left(\sum a_i^p\right)^{1\over p}+\left(\sum(a_i+b_i)^{q(p-1)}\right)^{1\over q}\left(\sum b_i^p\right)^{1\over p}\\ &=\left(\sum(a_i+b_i)^{q(p-1)}\right)^{1\over q}\left(\left(\sum a_i^p\right)^{1\over p}+\left(\sum b_i^p\right)^{1\over p}\right)\\ &=\left(\sum(a_i+b_i)^{p}\right)^{1\over q}\left(\left(\sum a_i^p\right)^{1\over p}+\left(\sum b_i^p\right)^{1\over p}\right)\\ \end{aligned}

其中用到了 q(p-1)=p，于是不等式得证。

设有向量 \vec x=(a_1^p,...,a_n^p),\ \vec y=(b_1^p,...,b_n^p),\ \vec z=((a_1+b_1)^p,...,(a_n+b_n)^p)。

不等式等式成立的充要条件是 \vec x||\vec z,\ \vec y||\vec z，即 \vec x || \vec y，即 (a_1,...,a_n) 与 (b_1,...,b_n) 平行。

证毕。