Probability and Statistics I: A Gentle Introduction to Probability - 16

Bayes Theorem

Bayes Theorem의 정의 : The Law of Total Probability를 통해 도출한다.

Bayes Theorem은 The Law of Total Probability의 개념을 통해 정의된다.

예를 들어 전체 사건 S를 n개의 A로 나눈다고 하자. 

그리고 사건 B가 있을 때, 위의 식이 성립한다.

즉, 사건 B가 일어났을 때에 사건 Aj가 일어날 조건부 확률은 역으로 사건 Aj가 일어났을 때에 사건 B가 일어날 확률이 포함된 식으로 구할 수 있다는 것이다.

Bayes Theorem 예제

질문은 어떤 후보가 멍청한 답을 했을 때, 그 답을 한 후보가 A인 경우의 확률이다.

이 질문을 우리는 상기 오른쪽 식처럼 바꿀 수 있는데, 각 인자에는 A가 답할 확률과 B가 답할 확률 그리고 A가 멍청한 답변을 할 확률과 B가 멍청한 답을 확률을 알고 있으면 답을 구할 수 있다. 

Bayes Theorem 예제

P(피고인이 재판에서 유죄를 받을 확률) = 0.99

P(피고인이 무고하다면 배심원이 풀어줄 확률) = 0.95

P(피고인이 유죄인 경우, 배심원이 유죄 판결할 확률) = 0.95

우리가 알고자하는 확률은 P(피고인이 무고함 | 배심원이 풀어줌) 이다.

즉, 배심원이 피고인을 풀어줬는데, 이때 이 피고인이 실제 무고한 경우이다.

위에서 우리는 다른 종류의 확률을 알고 있는데, 주어진 정보를 통해 Bayes Theorem을 사용하면 해결할 수 있다는 것을 알 수 있다. 

Bayes Theorem 예제

몬티홀 문제라고 하는 아주 유명한 문제이다.

사실 Bayes Theorem으로 위와 같이 전개하여 문제를 풀어도 되지만, 생각해보면 최초에 문이 3개 일 때, 우리가 하나 고르는 경우에 차가 있을 확률은 1/3이다.

그런데 이미 내가 고른 문은 그대로이고, 이 상태에서 몬티가 염소가 있는 문을 열어버리게 될 경우에 남아있는 하나의 문에 차가 있을 확률은 내가 고른 문을 뺀 나머지, 즉 2/3이 된다. 

그런데 이 설명을 잘 살펴보면 결국 조건부 확률이라는 원리에 의한 것임을 알 수 있다. 

따라서 이런 점에 의해서 Bayes Thoerem도 이 확률 계산에 적용 될 수 있다.