20. 랜덤 변수의 합 (Sum of Random Variables)

랜덤 변수가 $W = X_1 + X_2 + \cdots + X_n$과 같이 정의되었을 때, W에 대해 다뤄보자.

기댓값

$$E[W] = E[X_1]+E[X_2]+\cdots +E[X_n] $$

분산

$$ \text{Var}[W] = \sum_{i=1}^n\text{Var}[X_i] + 2\sum_{i=1}^{n-1}\sum_{j=i+1}^n\text{Cov}[X_i, X_j] $$

이때, 각 $X$들이 Uncorrelated 하면 Cov는 없에도 된다.

Moment Generating Function (MGF)

$$MGF_X(s) = E[e^{sX}] = \int e^{sx}f_X(x)dx = \sum_{x\in S_X} e^{sx}P_X(x)$$

Moment

MGF를 s에 대하여 n회 미분하고 s에 0을 대입하면, $X^n$의 평균이 된다.

독립 랜덤 변수의 합의 MGF

독립된 랜덤 변수 $X_1$부터 $X_n$까지의 합으로 이루어진 $W$의 MGF는 다음과 같다.

$$MGF_W(s) = MGF_{X_1}(s) \cdot MGF_{X_2}(s) \cdot \cdots \cdot MGF_{X_n}(s) $$

독립 랜덤 변수의 합

n개의 독립된 가우시안 랜덤 변수의 합 $W=X_1 + X_2 + \cdots + X_n $$ 역시 가우시안 랜덤 변수다.

Central Limit Theorem

$W = X_1+X_2+\cdots +X_n$과 같이 정의된 W에 대해, X의 PDF를 모두 알고 있을 경우, 이를 이용하여 W의 PDF를 구할 수 있다.

W의 MGF는 X들의 MGF의 곱이다.