jensen，jensen不等式证明

Jensen不等式简介

Jensen不等式是凸函数理论中的一个重要结果，它在概率论、统计学和优化理论等领域有着广泛的应用。该不等式的基本形式是：对于一个凸函数(f)和一个随机变量(X)，如果(\math{E}[X])存在，那么有：(f(\math{E}[X])\leq\math{E}[f(X)])。

1.凸函数的定义

凸函数是指满足以下性质的函数：对于任意的(x_1,x_2\in\math{R})和(0\leq\lamda\leq1)，都有(f(\lamdax_1+(1-\lamda)x_2)\leq\lamdaf(x_1)+(1-\lamda)f(x_2))。

2.Jensen不等式的证明

为了证明Jensen不等式，我们可以使用数学归纳法。

当(n=2)时，Jensen不等式成立。对于任意的凸函数(f)和任意的(x_1,x_2\in\math{R})，以及正的权重系数(\lamda)，有(f(\lamdax_1+(1-\lamda)x_2)\leq\lamdaf(x_1)+(1-\lamda)f(x_2))。

假设当(n=N)时，Jensen不等式成立，即对于任意的凸函数(f)和任意的(x_1,x_2,\ldots,x_N\in\math{R})，以及正的权重系数(\lamda_1,\lamda_2,\ldots,\lamdaN)，满足(\sum{i=1}^{N}\lamdai=1)，有 f\left(\sum{i=1}^{N}\lamda_ixi\right)\leq\sum{i=1}^{N}\lamda_if(x_i)]

现在需要证明当(n=N+1)时，Jensen不等式也成立。

设(x_1,x2,\ldots,x{N+1}\in\math{R})和正的权重系数(\lamda_1,\lamda2,\ldots,\lamda{N+1})，满足(\sum_{i=1}^{N+1}\lamda_i=1)。令(y_i=\lamda_ixi)，则(\sum{i=1}^{N+1}y_i=1)。

根据归纳假设，对于凸函数(f)和(y_1,y_2,\ldots,yN)，有 f\left(\sum{i=1}^{N}yi\right)\leq\sum{i=1}^{N}y_if(y_i)]

由于(\sum_{i=1}^{N+1}yi=1)，可以将(y{N+1})写为(1-\sum_{i=1}^{N}yi)。 f\left(\sum{i=1}^{N+1}yi\right)=f\left(1-\sum{i=1}^{N}y_i\right)]

根据凸函数的性质，有 f\left(1-\sum_{i=1}^{N}yi\right)\leq(1-\sum{i=1}^{N}y_i)f(1)]

由于(f(1))是常数，可以将其提到不等式的左边，得到 f\left(\sum_{i=1}^{N+1}yi\right)\leqf(1)-\sum{i=1}^{N}y_if(1)]

将(y_i)替换回(\lamda_ixi)，得到 f\left(\sum{i=1}^{N+1}\lamda_ixi\right)\leqf(1)-\sum{i=1}^{N}\lamda_ix_if(1)]

由于(f(1))是常数，可以将其提到不等式的右边，得到 f\left(\sum_{i=1}^{N+1}\lamda_ixi\right)\leq\sum{i=1}^{N}\lamda_if(x_i)]

这就证明了当(n=N+1)时，Jensen不等式也成立。

根据数学归纳法，Jensen不等式对于所有正整数(n)都成立。