概率论与数理统计第四章

记忆并推导常见分布的期望与方差

分布 表示 \(EX\) \(DX\)
二项分布 \(B(n,p)\) \(np\) \(np(1-p)\)
几何分布 \(\displaystyle \frac{1}{p}\) \(\displaystyle \frac{1-p}{p^2}\)
泊松分布 \(P(\lambda)\) \(\lambda\) \(\lambda\)
均匀分布 \(U[a,b]\) \(\displaystyle \frac{a+b}{2}\) \(\displaystyle \frac{(b-a)^2}{12}\)
指数分布 \(E(\lambda)\) \(\displaystyle \frac{1}{\lambda}\) \(\displaystyle \frac{1}{\lambda^2}\)
正态分布 \(N(\mu,\sigma^2)\) \(\mu\) \(\sigma^2\)

(期中几乎必考)切比雪夫不等式

切比雪夫不等式:对某随机变量\(X\),假设其方差,期望存在,任取正整数\(\varepsilon\),有\(\displaystyle P(|X-EX|\ge \varepsilon )\le\frac{DX}{\varepsilon ^2}\)

Info

借此可以证明:随机变量方差为0是随机变量为常数的充要条件。

此不等式可变形为:记\(\varepsilon_0\)\(k\)倍标准差(\(k\sqrt{DX}\)),有\(\displaystyle P(|X-EX|\ge \varepsilon_0 )\le\frac{1}{k^2}\)

以正态分布举例,其\(3\sigma\)原则满足\(P(|X-\mu|\le3\sigma)=99.7\%\),但使用切比雪夫不等式,得到的值为\(\displaystyle \frac{8}{9}\),因其适用一切分布,故其估计是保守的。

证明马尔可夫不等式与切比雪夫不等式的另一种方法

马尔科夫不等式:对某随机变量\(X\),假设其期望存在,有\(\displaystyle P(X\ge a)\le \frac{EX}{a}\)

示性函数:记\(I_{\left \{ A \right \} }\)表示\(A\)成立时返回1,否则返回0,有\(E(I_{\left \{ A \right \} })=P(A)\),构造\(\displaystyle y=\frac{x}{a}\),有\(\displaystyle I_{\left \{ X\ge a \right \} }\le \frac{X}{a}\),取期望\(\displaystyle E(I_{\left \{ X\ge a \right \} })\le \frac{EX}{a}\);对切比雪夫不等式,构造\(\displaystyle y=\frac{(X-EX)^2}{\sigma^2}\)即可。

【第四章例题】【超几何分布的期望】\(N\)件产品中包含\(M\)件次品,从中不放回取\(n\)件,求取得次品数的期望。\(\displaystyle \frac{nM}{N}\)

【第四章例题】\(X_1,X_2,\cdots,X_n\sim U[0,1]\),且相互独立,令\(Y=\min (X_1,X_2,\cdots,X_n)\),求\(EY\)

Info

此处可以使用\(\displaystyle EX=\int_{0}^{+\infty}[1-F(x)]dx\)简化

【NJU20XX期中】【抽签原理】袋中有\(N\)张卡片,各记以数字\(a_1,a_2,\cdots,a_N\),不放回地从中随机抽出\(n\)张,求这\(n\)张卡片上数字和的期望与方差.\(\boxed{\displaystyle EX=\frac{n}{N}\sum_{i=1}^{N}a_i, DX=\frac{n(N-n)}{N-1}\sum_{i=1}^{N}(a_i-\frac{1}{N}\sum_{j=1}^{N}a_j )^2 }\)

【NJU2024期中变式】【第四章习题】设我国每年出口商品需求量(吨)服从\(U[2000,4000]\),若售出1吨,收益3万元,否则亏损1万元,问商品应出厂多少吨可得到利润最大值?\(\boxed{3500}\)

【NJU】【第四章例题P88】\(n\)个求放入\(M\)个盒子,设每个球等可能落入诸盒,求有球盒子数\(X\)的数学期望

【第四章习题T10】随机变量\(X\)密度函数为\(\displaystyle p(x)=\frac{1}{2}e^{-|x-\mu|},\mu\in\mathbb{R}\),求\(DX\).\(\boxed{2}\)

【第四章习题T6】已知\(Y=\ln X \sim N(\mu,\sigma^2)\),求\(EX\).\(\boxed{\displaystyle e^{\frac{\sigma^2}{2}}e^{\mu}}\)

【NJU2018期中】【柯西——施瓦兹不等式】对于两个随机变量\(V,W\),若\(E(V^2),E(W^2)\)都存在,证明:\([E(VW)]^2\le E(V^2)E(W^2)\)

【第四章例题P95】【柯西——施瓦兹不等式】设随机变量\(X,Y\)的方差均存在,则\([cov(X,Y)]^2\le DXDY\),其中等号成立的充要条件是存在不全为0的常数\(a\)\(b\),使得:\(P(Y=aX+b)=1\)

Cauthy—Schwarz不等式

其离散形式为

\[\displaystyle (\sum_{i=1}^{n}a_i^2 )(\sum_{i=1}^{n}b_i^2 )\ge(\sum_{i=1}^{n}a_ib_i )^2\]

当时\(\displaystyle \frac{a_1}{b_1}= \frac{a_2}{b_2} =\cdots =\frac{a_n}{b_n}或a_i=b_i=0\)取等。

其积分形式为:对于区间\([a,b]\)上连续函数\(f,g\),有:

\[\displaystyle (\int_{a}^{b}f(x)g(x)dx)^2\le \int_{a}^{b}f^2(x)dx\cdot \int_{a}^{b}g^2(x)dx\]
Holder不等式

对于实数\(\displaystyle p>1,q>1,\frac{1}{p}+\frac{1}{q}=1\),那么对于空间\(\Omega\)上的函数\(f\in L^p(\Omega),g\in L^q(\Omega)\),有

\[\displaystyle \int_{\Omega }^{} |f(x)g(x)|dx\le (\int_{\Omega}^{} |f(x)|^pdx)^{\frac{1}{p} }(\int_{\Omega}^{} |g(x)|^qdx)^{\frac{1}{q} }\]
高阶矩存在、低阶矩一定存在

若随机变量\(X\)\(a\)阶绝对矩存在,即\(E|X|^a<\infty\),则\(X\)的所有低于\(a\)阶的绝对矩也存在。

证明方法一:使用Holder不等式

设连续随机变量\(X\)的某个样本点为\(w\),则\(\displaystyle EX=\int_{\Omega}^{}X(w)dw\),先证明,当\(\displaystyle p>1,q>1,\frac{1}{p}+\frac{1}{q}=1\)时:

\[\displaystyle E[|UV|]\le (E|U|^p)^{\frac{1}{p}}(E|V|^q)^{\frac{1}{q}}\]

即证明:

\[\displaystyle \int_{\Omega }^{} |U(w)V(w)|dw\le (\int_{\Omega}^{} |U(w)|^pdw)^{\frac{1}{p} }(\int_{\Omega}^{} |V(w)|^qdw)^{\frac{1}{q} }\]

此为Holder不等式,正确性已得到证明,故:

\[E(X^a)=\int_{\Omega}^{}|X|^a(w)\cdot 1dw \le (\int_{\mathbb{\Omega}}^{} |X|^a(w)^pdw)^{\frac{1}{p} }(\int_{\mathbb{\Omega}}^{} |1|^qdw)^{\frac{1}{q} }\]

\(\displaystyle \frac{1}{p}=\frac{a}{r},\frac{1}{q}=1-\frac{a}{r},r\in\mathbb{N_+},r<a\),有:

\[E(|X|^a)\le E^{\frac{a}{r}}(|X|^r)\]

故得证。

证明方法二:使用指示函数

对随机变量\(X\),有\(|X|=|X|\cdot I_{\left \{ |X|>1 \right \}}+|X|\cdot I_{\left \{ 0\le |X|\le 1 \right \}}\)

\(E(|X|\cdot I_{\left \{ 1\le |X|\le 1 \right \}})\le 1\),有界;

\(E(|X|\cdot I_{\left \{ |X|>1 \right \}})\),满足如下性质: 记\(f(p)=E(|X|^p\cdot I_{\left \{ |X|^p>1 \right \}})\)\(f(p)\)是单调递增的,故\(f(a)<+\infty\)时,\(f(p)<+\infty,p\in\mathbb{N_+},p<a\)

故命题得证。

【第四章习题T23(2)】若是取非负实数值的连续型随机变量,分布函数为,密度函数为,求证: $$ EX=\int_{0}^{+\infty}[1-F(x)]dx $$ 设连续型随机变量\(X\)的一切可能值在区间\([a,b]\)内,证明:\(\displaystyle DX\le\frac{(b-a)^2}{4}\)

证明

可知期望\(\mu\in[a,b]\),则\((x-\mu)^2\le \max((a-\mu)^2,(b-\mu)^2)\),故方差\(DX\le \max((a-\mu)^2,(b-\mu)^2)\),而\(\displaystyle \min\limits_{a\le \mu\le b}(\max((a-\mu)^2,(b-\mu)^2)=\frac{(b-a)^2}{4}\),得证。

\(X_1,X_2,\cdots,X_n\)为正态总体的一个样本, \(\overline{X}=\displaystyle \frac{1}{n} \sum_{i=1}^{n}X_i\),证明:\(\displaystyle E\overline{X}^2=\mu^2+\frac{\sigma^2}{n}\)