Chapter 4 随机变量的数字特征

数学期望

定义

离散型随机变量，若级数$\overset{+\infty}{\underset{i=1}{\Sigma}}x_ip_i$绝对收敛，则称该级数为该随机变量的数学期望，记为 $$ E(X)=\overset{+\infty}{\underset{i=1}{\sum}}x_ip_i $$ 该级数为$+\infty$时，期望不存在

同理可定义连续型随机变量： $$ E(X)=\int^{+\infty}_{-\infty}xf(x)dx $$

泊松分布数学期望

\[ E(X)=\lambda \]

指数分布数学期望

\[ E(X)=\frac{1}{\lambda} \]

正态分布数学期望

\[ E(X)=\mu \]

均匀分布数学期望

$X$~$U(a,b)$ $$ E(X)=\frac{a+b}{2} $$

懒人公式（by 赵敏智老师）

离散型

\[ E(g(X))=\overset{+\infty}{\underset{i=1}{\sum}}g(x_i)p_i \]

连续型

\[ E(g(X))=\int^{+\infty}_{-\infty}g(x)f(x)dx \]

二维离散型

\[ E(h(X,Y))=\overset{+\infty}{\underset{i=1}{\sum}}\overset{+\infty}{\underset{j=1}{\sum}}h(x_i,y_i)p_{ij} \]

二维连续型

\[ E(h(X,Y))=\int^{+\infty}_{-\infty}\int^{+\infty}_{-\infty}h(x,y)f(x,y)dxdy \]

数学期望性质

1.线性性：$E(aX+b)=aE(X)+b$

2.可加性：$E(X_1+X_2+...+X_n)=E(X_1)+E(X_2)+...+E(X_n)$

3.独立可乘性：$X,Y$独立，$E(XY)=E(X)E(Y)$，多变量同理

方差

定义和计算

\[ Var(X)=E[(X-E(X))^2]=E(X^2)-(E(X))^2 \]

泊松分布方差

\[ Var(X)=\lambda \]

指数分布方差

\[ Var(X)=\frac{1}{\lambda^2} \]

二项分布方差

\[ Var(X)=np(1-p) \]

均匀分布方差

$X$~$U(a,b)$ $$ Var(X)=\frac{(b-a)^2}{12} $$

性质

1.$Var(aX+b)=a^2Var(X)$

2.$Var(X)\le E[(X-c)^2]$，当且仅当$E(X)=c$时等号成立

3.若$Var(X)=0$，则$X$恒为常数

4.独立可加性：$Var(X_1+X_2+...+X_n)=Var(X_1)+Var(X_2)+...+Var(X_n)$

5.$Var(X+Y)=Var(X)+Var(Y)+2Cov(X,Y)$

协方差

定义及计算

\[ Cov(X,Y)=E[(X-E(X))(Y-E(Y))]=E(XY)-E(X)E(Y) \]

性质

1.$Cov(X,Y)=Cov(Y,X)$

2.$Cov(X,X)=Var(X)$

3.$Cov(aX,bY)=abCov(X,Y)$

4.$Cov(X_1+X_2,Y)=Cov(X_1,Y)+Cov(X_2,Y)$

5.若$X,Y$相互独立，则$Cov(X,Y)=0$，反之则不然

6.$(Cov(X,Y))^2\le Var(X)Var(Y)$，当且仅当$X,Y$严格线性相关时等号成立

分位数

\[ P(X>\alpha)=\int_{x_\alpha}^{+\infty}f(x)dx=\alpha \]

则$x_\alpha$为$\alpha$分位数。

对于偶函数（如标准正态分布），$x_{\alpha}=-x_{1-\alpha}$

多维正态变量

协方差矩阵

\[ Cov(\pmb{X})=(Cov(X_i,X_j))_{n×n} \]

多维正态变量表示

$n$维随机变量$\pmb{X}=(X_1,X_2,...,X_n)^{T}$，协方差矩阵$\pmb{B}=Cov(\pmb{X})$，数学期望$\pmb{a}=(E(X_1),E(X_2),...,E(X_n))^{T}$，则$n$元正态分布记为$X\sim N(\pmb{a},\pmb{B})$

$n=2$时，协方差矩阵为：$B= \begin{pmatrix} \sigma_1^2 & \sigma_1\sigma_2\rho \\ \sigma_1\sigma_2\rho & \sigma_2^2 \\ \end{pmatrix}$

性质

（1）$n$维正态变量任意$k$维子向量也服从$k$元正态分布。特别地，$n$维正态变量中的每个分量都服从一元正态分布。即联合正态能推导出每一个随机变量服从边际正态分布。边际正态不能直接推出联合正态，边际正态+相互独立可以推出联合正态

（2）$\pmb{X}=(X_1,X_2,...,X_n)^T$服从$n$元正态分布的充要条件是各个分量的任意线性组合服从一元正态分布。

（3）$\pmb{X}=(X_1,X_2,...,X_n)^T$服从$n$元正态分布，$\pmb{Y}=(Y_1,Y_2,...,Y_k)^T$每个分量都是$X$的线性函数，则$\pmb{Y}$服从$k$元正态分布。此性质称为“正态变量的线性变换不变性”

（4）服从$n$元正态分布的随机变量$X$中的分量$X_1,X_2,...,X_n$相互独立的充要条件是他们两两不相关，等价于$Cov(X)$的矩阵为对角矩阵。在联合二元正态分布中，不相关等价于独立

例

例如，若$X,Y$服从联合正态分布（边际正态分布不成立），$X,Y$不相关等价于$X,Y$独立。

例题