본문 바로가기

Enginius/Machine Learning

Probability mass functions and density functions

확률 이론 시험 기간을 맞아 정리하는 기본적인 pmf와 pdf 정리 




Probability Mass Function

 베르누이 분포는 동전을 하나 던졌을 떄 앞 또는 뒤가 나올 확률을 나타낸다. 


  유니폼 분포는 굳이 설명할 필요 없을 것이다. 여기서 유의할 점은 l에서 m까지 모두 정의 된다는 점이다. 즉 m-l+1개의 discrete한 위치에서 확률이 정의된다. 

 Geometric 분포는 k번 실패한 후에 k+1번째 성공할 확률이다. 실패할 확률은 p로 정의되며 성공할 확률은 (1-p)로 정의된다. 아니면 반대로 k+1번째에 성공할 확률로 볼 수도 있다. 이때는 성공할 확률이 p인 것이다. 


 바이노미알 분포는 동전을 n번 던졌을 때 (n번의 bernoulli 시도)  k번 성공할 확률이다. 한번 성공할 확률은 p이다. 




 푸아송 분포는 좀 신기한 분포이다. 이는 위에서 설명한 바이노미얼 분포에서 n을 무한대로 늘린 경우이다. lambda는 평균 성공 수를 의미한다. 즉 bernoulli distribution의 p = lambda/n 이다. 위의 두 그림에서 알 수 있듯이 k=lambda주변에서 peak를 그리는 분포가 된다. 






Probability Density Function 










'Enginius > Machine Learning' 카테고리의 다른 글

Decentralized Orthogonal Iteration (DOI) + Spectral Clustering  (0) 2013.05.31
Particle Filter  (0) 2013.05.15
Kernel Principal Component Analysis (KPCA)  (0) 2013.04.26
Softmax activation이란?  (0) 2013.03.05
Precision과 Recall  (0) 2013.02.07