Bayes' Rule

기존 통계학에서는 모집단을 변하지 않는 대상으로 규정하지만, '베이즈 통계학'에서는 '모집단을 미리 확정짓지 않는 것'이 특징입니다.

 

베이즈 정리(bayes' theorem, bayes' rule)는 이전의 경험과 현재의 증거를 토대로 어떤 사건의 확률을 추론하는 과정을 보여줍니다.

알고 있는 확률을 가지고 

알고 있는 확률

아래 확률을 구하는 것이 베이즈 정리이다.

구하고자 하는 확률

 

Law of Total Probability 전확률법칙

교집합을 조건부확률로 표현이 되고 조건부확률의 합으로 표현(전확률법칙)

 

Bayes' Rule 용어 정리

Posterior probability (사후확률) : P(A|B)
Prior probability (사전확률) : P(A)
Likelihood (가능도) : P(B|A)
Evidence = marginal likelihood (증거, 주변 가능도): P(B)

 

1. priror probability와 , data probability를 이용해서 posterior probability를 계산하는 것
2. Posterior probability는 어떠한 정보에 의해 update된 prior probability라고 생각할 수 있다.

 

기존의 통계학에서는 엄격하게 확률 공간을 정의하거나 집단(모집단 혹은 표본집단)의 분포를 정의하고 그 뒤에 계산을 통해 파생되는 결과물들을 수용하는 패러다임을 차용한다. (빈도주의, 연역적)

반면에 베이지안 관점의 통계학에서는 사전 확률과 같은 경험에 기반한 선험적인, 혹은 불확실성을 내포하는 수치를 기반으로 하고, 거기에 추가 정보를 바탕으로 사전확률을 갱신한다.(귀납적)

 

Odds (아즈)
사건 A의 발생 확률에 관심이 있다고 하자. 이때 우리가 관심있는 사건의 발생 확률 대비 우리가 관심 없어하는 사건의 발생 확률을 오즈비라고 이야기한다.
따라서 사건 A의 발생 확률이 1에 가까워질 수록 odds ratio는 무한대로 가까워지며 사건 A의 발생 확률이 0에 가까워질수록 odds ratio는 0에 가까워진다.