第 4 章 伯努利分布
伯努利分布，说的就是一个简单的二分变量 (1, 0)，它取1时的概率如果是 \(\pi\)。那么我们可以计算这个分布的期望值:
\[ \begin{align} E(X) &=\sum_x xP(X=x) \\ &=1\times\pi + 0\times(1-\pi)\\ &=\pi \end{align} \]
由于 \(x=x^2\)，因为 \(x=0,1\), 所以 \(E[X^2]=E[X]\)，那么方差为：
\[ \begin{align} Var(X) &=E[X^2]-E[X]^2 \\ &=E[X]-E[X]^2 \\ &=\pi - \pi^2 \\ &=\pi(1-\pi) \end{align} \]
证明 \(X,Y\) 为互为独立的随机离散变量时，
a) \(E(XY)=E(X)E(Y)\) ;
b) \(Var(X+ Y)=Var(X)+Var(Y)\)
- 证明
\[ \begin{align} E(XY) &= \sum_x\sum_y xyP(X=x, Y=y) \\ \because &\; X,Y \text{are independent to each other} \\ \therefore &= \sum_x\sum_y xyP(X=x)P(Y=y)\\ &=\sum_x xP(X=x)\sum_y yP(Y=y)\\ &=E(X)E(Y) \end{align} \]
- 证明 根据方差的定义：
\[ \begin{align} Var(X+Y) &= E((X+Y)^2)-E(X+Y)^2 \\ & \; \text{Expand} \\ &=E(X^2+2XY+Y^2)-(E(X)+E(Y))^2\\ &=E(X^2)+E(Y^2)+2E(XY)\\ &\;\;\; - E(X)^2-E(Y)^2-2E(X)E(Y)\\ &\; \text{We just showed}\; E(XY)=E(X)E(Y)\\ &=E(X^2)-E(X)^2+E(Y^2)-E(Y)^2 \\ &=Var(X)+Var(Y) \end{align} \]