이 영역을 누르면 첫 페이지로 이동
컴퓨터와 수학, 몽상 조금 블로그의 첫 페이지로 이동

컴퓨터와 수학, 몽상 조금

페이지 맨 위로 올라가기

컴퓨터와 수학, 몽상 조금

컴퓨터공학, 딥러닝, 수학 등을 다룹니다.

확률과통계

  • 컴퓨터와 수학, 몽상 조금
20. 랜덤 변수의 합 (Sum of Random Variables)

20. 랜덤 변수의 합 (Sum of Random Variables)

2020.06.23
랜덤 변수가 $W = X_1 + X_2 + \cdots + X_n$과 같이 정의되었을 때, W에 대해 다뤄보자. 기댓값 $$E[W] = E[X_1]+E[X_2]+\cdots +E[X_n] $$ 분산 $$ \text{Var}[W] = \sum_{i=1}^n\text{Var}[X_i] + 2\sum_{i=1}^{n-1}\sum_{j=i+1}^n\text{Cov}[X_i, X_j] $$ 이때, 각 $X$들이 Uncorrelated 하면 Cov는 없에도 된다. Moment Generating Function (MGF) $$MGF_X(s) = E[e^{sX}] = \int e^{sx}f_X(x)dx = \sum_{x\in S_X} e^{sx}P_X(x)$$ Moment MGF를 s에 대하여 n회 미분하고 s에 0..
19. 조건부 확률 (Conditional Probability Models)

19. 조건부 확률 (Conditional Probability Models)

2020.06.23
특정 사건 B가 일어났을때 사건 X가 일어날 확률을 조건부 확률이라 한다. 조건부 확률의 CDF $$ F_{X|B}(x) = P[X\leq x | B] $$ 조건부 확률의 PMF $$ P_{X|B}(x) = P[X=x|B] $$ $$ P_{X|B}(x) = \begin{align*} \begin{cases} \frac{P_X(x)}{P[B]} &x\in B \\ 0 &\text{otherwise} \end{cases} \end{align*} $$ 조건부 확률의 PDF (CDF의 미분) $$ f_{X|B}(x) = \frac{dF_{X|B}(x)}{dx} $$ $$ f_{X|B}(x) = \begin{align*} \begin{cases} \frac{f_X(x)}{P[B]} &x\in B \\ 0 &\te..
18. 유도된 랜덤 변수의 확률 모델 (Probability Model of Derived Random Variables)

18. 유도된 랜덤 변수의 확률 모델 (Probability Model of Derived Random Variables)

2020.06.21
두 랜덤 변수로 유도된 랜덤 변수의 PMF $W=g(X,Y)$와 같이 유도된 랜덤 변수 $W$의 PMF는 아래와 같다. $$ P_W(w) = \sum_{(x,y):g(x,y)=w}P_{X,Y}(x,y) $$ 연속 랜덤 변수로 유도된 변수의 CDF와 PDF $W = aX$와 같이 유도된 랜덤 변수의 CDF와 PDF는 각각 아래와 같다. $$ F_W(w) = F_X(w/a) $$ $$ f_W(w) = \frac{1}{a}f_X(w/a) $$ CDF의 미분이 PDF인 점을 활용하면 쉽게 구할 수 있다. 같은 원리로 $W=X+b$의 CDF와 PDF는 아래와 같다. $$ F_W(w) = F_X(w-b) $$ $$ f_W(w) = f_X(w-b) $$ $W = aX$일 때, $X$가 uniform이나 gaussia..
17. 독립 랜덤 변수와 두 변수의 관계 (Independent Random Variables, Correlation of Two Variables)

17. 독립 랜덤 변수와 두 변수의 관계 (Independent Random Variables, Correlation of Two Variables)

2020.06.20
다중 랜덤 변수에서, 각 변수가 서로의 독립일 때 독립 랜덤 변수라 한다. 독립 랜덤 변수는 아래 조건을 만족한다. $$ P_{X,Y}(x,y) = P_X(x)P_Y(y)$$ $$F_{X,Y}(x,y) = f_X(x)f_Y(y) $$ 즉, 다중 랜덤 변수의 PMF/PDF를 이용해 Marginal PMF/PDF를 구하여 해당 변수가 독립인지 아닌지를 알 수 있다. 랜덤 변수 함수의 기댓값 랜덤 변수로 구성된 함수 $W = g(x,y)$의 기댓값은 다음과 같다. $$ E[W] = \sum_{x\in S_X} \sum_{y\in S_y} g(x,y)P_{X,Y}(x,y) $$ $$ E[W] = \int^\infty _{-\infty} \int ^\infty _{-\infty} g(x,y)f_{X,Y}(x,y)..
16. 다중 랜덤 변수 (Multiple Random Variables)

16. 다중 랜덤 변수 (Multiple Random Variables)

2020.06.20
지금까지는 랜덤 변수가 하나인 경우에 대하여 다루었다. 이제부터는 랜덤 변수가 2개 이상이 되어, 확률 공간이 실수축이 아닌 고차원 공간을 갖게 된다. 예를들어 $Y=X+Z$에서 $X$와 $Z$가 독립된 랜덤 변수일 때, $Y$는 두 변수의 영향을 받아 변화한다. 누적 분포 함수 (Joint CDF) 다중 랜덤 변수의 CDF는 Joint CDF라고도 불리며, 아래와 같이 나타낸다. $$ F_{X,Y}(x,y) = P[X\leq x, Y\leq y] $$ 다중 랜덤 변수의 CDF는 아래와 같은 성질들을 갖는다. $$\begin{align*} &1) 0\leq F_{X,Y}(x,y)\leq 1 \\ &2)F_{X,Y}(\infty , \infty) = 1\\ &3)F_X = F_{X,Y}(x,\infty) ..
14. 가우시안 랜덤 변수 (Gaussian Random Variable)

14. 가우시안 랜덤 변수 (Gaussian Random Variable)

2020.06.01
가장 흔히 접할 수 있는 분포 중 하나로, 정규분포(Normal Random Variable)라고도 한다. Gaussian ($\mu ,\sigma $)의 형태로 생겼는데, $\mu $는 기댓값, $\sigma $는 표준편차를 나타낸다. 가우시안 분포의 PDF는 아래와 같다. $$ f_X(x) = \frac{1}{\sqrt{2\pi \sigma ^2}}e^{-(x-\mu)^2/2\sigma ^2} $$ x가 $\mu $일 때 최댓값을 갖고 좌우가 대칭인 그래프를 그린다. $\sigma $가 작을 수록 중앙에 몰려있는 경향이 있음을 의미한다. 가우시안 분포로 유도된 함수 X가 가우시안 ($\mu , \sigma $)일 때, $Y = aX+B$는 가우시안 ($a\mu + b, a\sigma $)이다. 표준 ..
13. 연속 랜덤 변수의 종류 (Families of Continuous Random Variables)

13. 연속 랜덤 변수의 종류 (Families of Continuous Random Variables)

2020.05.20
연속 균등 분포 Uniform Random Variable uniform(a,b)는 a와 b사이의 모든 값이 균등한 확률을 갖는 경우를 의미한다. 연속 균등 분포의 PDF는 아래와 같다. $$ f_X(x) = \begin{align*}\begin{cases} 1/(b-a) &a\leq x
12. 연속 랜덤 변수 (Continuous Random Variables)

12. 연속 랜덤 변수 (Continuous Random Variables)

2020.05.20
연속 랜덤 변수는 적절한 구간 내의 모든 값을 취하는 랜덤 변수이다. 예를들어, 이 블로그에 5월 20일에 방문한 사람의 수는 이산 랜덤 변수이지만, 이 블로그에서 사람들이 머무른 평균 시간은 연속 랜덤 변수이다. 사람 수는 셀 수 있지만, 시간은 정확히 잴 수 없는 연속된 값이기 때문이다. 누적 분포 함수 (Cumulative Distribution Function: CDF) 임의의 값 $x$까지 랜덤 변수 $X$가 갖는 값. $$ F_X(x) = P[X \leq x] $$ 연속 랜덤 변수의 CDF는 PDF를 적분하여 구할 수 있다. $$ F_X(x) = \int_{-\infty }^{x} f_X(u)du $$ 확률 밀도 함수 (Probability Density Function: PDF) 이산 랜덤 ..
11. 랜덤 변수의 분산과 표준편차 (Variance and Standard Deviation of Random Variable)

11. 랜덤 변수의 분산과 표준편차 (Variance and Standard Deviation of Random Variable)

2020.05.17
유도된 랜덤 변수의 기댓값 지난 글에서 다뤘듯이 랜덤 변수 X로 유도된 랜덤 변수 Y의 기댓값은 아래와 같다. $$ E[Y] = \sum_{x\in S_X} g(x)P_X(x) $$ 각 원소에 대한 확률은 변하지 않기 때문에, 각 확률에 변화한 값인 $g(x)$만 곱해주면 기댓값이 된다. 분산Variance 분산은 각각의 원소에서 평균을 뺀 값이다. 랜덤 변수 X의 분산은 다음과 같다. $$\begin{align*} \text{Var}[X] &= E[(X-\mu x)^2] \\ &= E[X^2] - (E[X])^2 \end{align*}$$ 랜덤변수에 특정 상수를 곱하여 유도된 랜덤 변수의 분산은 아래와 같다. $$ \text{Var}[aX + b] = a^2\text{Var}[X] $$ 표준편차Stan..
10. 유도된 랜덤 변수 (Derived Random Variable)

10. 유도된 랜덤 변수 (Derived Random Variable)

2020.04.26
지금까지 랜덤 변수의 함수들을 알아보았다. 랜덤 변수와 확률 밀도 함수 (PMF) 누적 분포 함수 (CDF) 랜덤의 기댓값 이번에는 $X$에 대한 함수 형태로 주어지는 랜덤 변수를 알아보자. 유도된 랜덤 변수Derived Random Variable 유도된 랜덤 변수는 주어진 랜덤 변수 $X$에 대한 함수 $Y = g(X) $ 형태로 주어지는 랜덤 변수이다. 이때, 샘플 공간의 값만이 변화하며 각 사건에 대한 확률을 변화하지 않는다. 예를들어, 장을 보러 가서 살 게란의 갯수를 $X$라 놓고 계란의 가격을 $Y$라 놓으면, 계란 하나에 100원이라 하였을 때 아래가 성립한다. $$ Y = 100X $$ 이때, 샘플 공간만 계란의 갯수에서 가격으로 변화하고 각 확률(계란 3개를 살 확률, 계란을 300원 ..
9. 평균과 기댓값 (Averages and Expected Value)

9. 평균과 기댓값 (Averages and Expected Value)

2020.04.26
수열의 대푯값으로 사용할 수 있는 값으로 평균mean, 중앙값median, 최빈값mode이 있다. 어떤 확률 변수에 대해 얻을 수 있는 값의 평균으로서 기대할 수 있는 값을 기댓값이라 한다. 랜덤 변수 X에 대한 기댓값은 아래와 같다. $$E[X] = \mu x = \sum_{x\in S_X} xP_X(x)$$ 복권 1등의 기댓값 = (1등 당첨금) $\times$ (1등 복권의 수 / 전체 복권의 수) 각 분포의 기댓값 베르누이 분포에서 랜덤 변수 $X$의 기댓값은 $E[X] = p$이다. 지오메트릭 분포에서 $X$의 기댓값은 $E[X] = \frac{1}{p}$이다. 푸아송 분포 $(\alpha)$에서 $X$의 기댓값은 $E[X] = \alpha$이다.
8. 누적 분포 함수 (Cumulative Distribution Function)

8. 누적 분포 함수 (Cumulative Distribution Function)

2020.04.26
랜덤 변수 $F_X$에서 원소 $x$에 대하여, $0~n$까지의 확률을 모두 더한 것이 누적 분포 함수Cumulative Distribution Function:CDF이다. $$ F_X(x) = P[X \leq x] $$ 다음과 같은 확률을 갖는 랜덤 변수 $X$의 경우를 보자. $$ P_X(x) = \begin{align*} \begin{cases} 0.25 &x=0,\\ 0.5 &x=1,\\ 0.25 &x=2,\\ 0 &\text{otherwise.} \end{cases} \end{align*} $$ 위 랜덤 변수의 CDF는 다음과 같다. $P_X(0)$ $P_X(1)$ $P_X(2)$ 0.25 0.75 1
  • 최신
    • 1
    • 2
  • 다음

정보

컴퓨터와 수학, 몽상 조금 블로그의 첫 페이지로 이동

컴퓨터와 수학, 몽상 조금

  • 컴퓨터와 수학, 몽상 조금의 첫 페이지로 이동

검색

메뉴

  • 홈
  • 태그
  • 방명록

카테고리

  • 분류 전체보기 (276)
    • Tech Trend (3)
    • Deep Learning (77)
      • 공부 노트 (21)
      • 논문 리뷰 (44)
      • 논문 스키밍 (1)
      • 영상처리 (11)
    • Engineering (3)
      • Tips (2)
      • Experiences (1)
    • Blog (42)
      • 회고 & 계획 (16)
      • 내 이야기 (8)
      • 리뷰 (3)
      • 군대에 간 공돌이 (9)
      • ML엔지니어 취업 도전기 (1)
      • 여행 (4)
    • 학부 수업 (141)
      • 머신러닝 (16)
      • C프로그래밍 (8)
      • 자료구조 (11)
      • 알고리즘 (17)
      • 디지털시스템 (25)
      • 컴퓨터구조 (11)
      • 확률과 통계 (21)
      • 선형대수학 (14)
      • 이산수학 (18)
      • 데이터시각화 (0)
    • 강의 (9)
      • 딥러닝 기초 (7)
      • Python (2)

공지사항

인기 글

정보

백지오의 컴퓨터와 수학, 몽상 조금

컴퓨터와 수학, 몽상 조금

백지오

블로그 구독하기

  • 구독하기
  • RSS 피드

티스토리

  • 티스토리 홈
  • 이 블로그 관리하기
  • 글쓰기
반응형

나의 외부 링크

  • profile
  • github
  • linkedin

방문자

  • 전체 방문자
  • 오늘
  • 어제
Powered by Tistory / Kakao. © 백지오. Designed by Fraccino.

티스토리툴바