概率论与数理统计第五章

中心极限定理：随机变量序列\(X_1,X_2,\cdots,X_n\)独立同分布，数学期望与方差均存在，\(EX=\mu,DX=\sigma^2>0\)，对\(\displaystyle Y_n=\frac{\displaystyle \sum_{k=1}^{n}X_k-n\mu}{\sqrt{n}\sigma}\)，证明\(n\to +\infty\)时，\(Y_n\)依分布收敛于\(p(x)\)，其中\(\displaystyle p(x)=\frac{1}{\sqrt{2\pi}}e^{x^2/2},x\in\mathbb{R}\)

中心极限定理的证明

证明部分

设\(\displaystyle T_k=\frac{X_k-\mu}{\sigma},ET_k=0,DT_k=1,Y_n=\frac{\displaystyle \sum_{i=1}^{n}T_k}{\sqrt{n}}\)，

记\(T_k\)的特征函数为\(\displaystyle \phi_{T_k}(t)=E(e^{itX})=\sum_{p=0}^{n}\frac{(it)^p}{p!}E(X_k^p)\)，

子任务：证明\(E(X_k^r)存在\)

记\(\mu_p'=E(X_k^p)\)，有\(i^p\mu_p'=\phi_{T_k}^{(p)}(0)\),可得\(\phi'_{T_k}(0)=0,\phi''_{T_k}(0)=-1\)，故\(\displaystyle \phi_{T_k}(t)=1-\frac{1}{2}t^2+O(t^2)\)

\(\displaystyle \phi_{Y_n}(t)=\prod_{i=1}^{n}\phi_{T_i}(\frac{t}{\sqrt{n}} )=[\phi_{T_k}(\frac{t}{\sqrt{n}} )]=[1-\frac{t^2}{2n}+O(\frac{t^2}{n})]^n\)

化简为\(\displaystyle [1-\frac{t^2}{2n}+O(\frac{t^2}{n} )]^{\frac{1}{-\frac{t^2}{2n}+O(\frac{t^2}{n} ) }\cdot -\frac{t^2}{2}+n\cdot O(\frac{t^2}{n}) }=e^{-\frac{1}{2}t^2}\)

由特征函数唯一决定分布函数，对正态分布密度函数，有\(\displaystyle P(X=x)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}}\)，\(\phi_X(t)=\displaystyle \int_{-\infty}^{+\infty }e^{itx}p(x)dx=e^{i\mu t-\frac{1}{2}\sigma^2t^2}\)

与上式比较，得\(\mu = 0,\sigma^2=1\)，故\(Y_n\sim N(\mu,\sigma^2)\)

特征函数

特征函数是随机变量的一种性质，是其概率分布的\(Fourier\)变换。

定义：\(X\)是概率空间上的实值随机变量，定义\(X\)的特征函数\(\phi_X:\mathbb{R}\to\mathbb{C}\)为：\(\phi_X(t)=E(e^{itX},t\in\mathbb{R})\)

若是离散型随机变量，以\(p_i\)概率取\(a_i\)，则\(\displaystyle \phi_X(t)=\sum_{i}e^{ita_i}p_i\)

若是连续型随机变量，概率密度函数为\(f\)，则\(\displaystyle \phi_X(t)=\int\limits_{\mathbb{R} }e^{itx}f(x)dx\)

微分性质：

Taylor展开：若对某个\(n\in\mathbb{N},E|X^n|<+\infty\)，则：\(\displaystyle \phi_{T_k}(t)=\sum_{p=0}^{n}\frac{(it)^p}{p!}E(X_k^p)+O(t^n)\)，记\(\mu_p'=E(X_k^p)\)

求导，有\(i^p\mu_p'=\phi_{T_k}^{(p)}(0)\)

可用于计算矩与验证矩的存在性

Question

求\(X\sim P(\lambda),Y\sim E(\lambda)\)，求\(X,Y\)的特征函数\(\phi_X,\phi_Y\) \(\boxed{\displaystyle \phi_X(t)=e^{\lambda(e^{it}-1)},\phi_Y(t)=\frac{\lambda}{\lambda-it}}\)

若\(X_1,X_2,\cdots,X_n\)是相互独立的随机变量，记\(S=x_1+x_2+\cdots+x_n\)，则\(\displaystyle \phi _S(t)=\prod_{i=1}^{n}\phi_{X_i}(t)\)