概率论基础 - 6 - 切比雪夫不等式

切比雪夫不等式可以使人们在随机变量X的分布未知的情况下，对事件|X-\mu|<\varepsilon

定义

• 假设随机变量X具有期望E(X)=\mu， 方差 Var(X)=\sigma^2，则对于任意正数\varepsilon ，有不等式成立:

含义

• 其意义是：对于距离E(X)足够远的地方（距离大于等于\varepsilon），事件出现的概率是小于等于\frac{\sigma^{2}}{\varepsilon^{2}} 。即事件出现在区间[\mu-\varepsilon, \mu+\varepsilon] 的概率大于1-\frac{\sigma^2}{\varepsilon^2}
• 的下限估计 例如：

• 切比雪夫不等式刻画了变量偏离均值的程度与发生概率大小之间的关系
• 在随机变量分布未知的情况下，我们只知道均值和方差，切比雪夫不等式给出了X落入以均值为中心的ε邻域概率的概率下界

证明

思路1

利用取值范围建立不等式

思路2

利用马尔可夫不等式

• 将|X-\mu|作为随机变量带入不等式，有：

• 其中\varepsilon > 0

• 再次套用马尔可夫不等式：

推论——切比雪夫定理

• 对于相互独立具有相同期望和方差的随机变量X_i，\frac{1}{n}\sum\limits_{i = 1}^n 的方差为：

• 那么当 n \to \infty 时，\frac{1}{n}\sum\limits_{i = 1}^n 的方差\to 0 ，对于任意给定的\varepsilon > 0

• 即当样本个数趋于无穷时，样本的算数平均值会收敛于理论均值

参考资料

• https://baike.baidu.com/item/切比雪夫定理/3647561?fromtitle=切比雪夫不等式&fromid=8709330&fr=aladdin
• http://www.huaxiaozhuan.com/数学基础/chapters/2_probability.html
• https://blog.csdn.net/ukakasu/article/details/82688413