몬티 홀 문제

[귀뚜라미]

몬티는 친구들에게 선의의 장난을 즐기는 마음씨 좋은 부자이다. 어느 날 몬티가 친구를 만나 이렇게 말한다. “친구. 선물 하나 하고 싶은데 그냥 주면 재미가 없으니까 게임을 하지. 저기 문 세 개가 있지? 그 중 하나의 문 뒤에는 고급승용차가 있고 나머지 문 뒤에는 자전거가 있어. 문 하나를 선택하면 그 뒤에 있는 것을 선물로 줄게.” 승용차를 갖기 원하는 친구가 문 하나를 고르려고 하는데, 몬티가 새로운 제안을 했다.

“아 참 한 가지 더. 네가 하나의 문을 고르면, 내가 남은 문들 중에 하나의 문을 열어 보여줄게. 그 후에 원래의 선택을 지속하든지, 아니면 선택을 바꿔도 돼.” 친구는 문 하나를 선택했다. 그러자 모든 상황을 알고 있는 몬티는 남은 문중에서 자전거가 있는 문 하나를 열었다. 이제 두 개의 문이 남아있는 상황에서 몬티가 말했다. “원하면 선택을 바꾸어도 돼.” 친구는 심각한 고민에 빠지게 된다. 자동차를 받기 위해서는 원래의 선택을 계속하는 편이 나을까, 아니면 선택을 바꾸는 편이 나을까.

몬티 홀 문제가 유래한 쇼의 진행자 몬티 홀(Monty Hall 1921~)

몬티 홀 문제 : 선택을 바꿀 것인가, 말 것인가? 

선택을 지속할까, 바꿀까? 세 가지 가능성으로 요약할 수 있다.

 
  1. 남은 문은 두 개 뿐이니, 선택을 바꾸거나 바꾸지 않거나 50:50의 동일한 확률이다.
2. 선택을 바꾸는 것이 자동차를 탈 확률이 더 높다.                                        
3. 선택을 바꾸지 않는 편이 더 높다.                                                          

이 문제는 1963년부터 40년 가량 지속된 미국 TV 쇼인 "Let's make a deal"의 내용으로서 진행자 몬티 홀 Monty Hall의 이름을 따서 붙어졌다. 다만 실제 몬티 홀 쇼에서는 자전거 대신에 염소가 있었다.

몬티 홀 문제에서는 선택을 바꾸는 것이 최선이다?

이 상황에서 어떤 선택이 최선의 것일까? 이 문제에 대해서 독자로부터 질문을 받은 미국의 한 칼럼니스트는 1990년 9월, 다음과 같은 글을 썼다. “선택을 바꾸세요. 처음 선택한 문에서 이길 확률은 1/3이지만 선택을 바꾸면 승산이 2/3로 증가됩니다.” 이 글을 쓴 사람은 마릴린 사반트(Marilyn vos Savant, 1946 - )로 한때 최고의 IQ 소지자로 기네스북에 기록되었던 사람이다. 이 칼럼이 나가자마자 사반트는 수많은 독자들로부터 항의 편지를 받았는데 그 중에는 수학자들도 많이 있었다. 항의자들의 주장은 선택을 바꾸든지 아니든지 확률이 1/2이지 2/3가 아니라는 것이었다. 그녀는 독자들을 납득시키기 위해 다음과 같은 설명을 계속했다. “백만 개의 문을 상상해 보세요. 당신은 1번 문을 선택했다고 합시다. 그리고 문 뒤에 뭐가 있는지 아는 사회자가 777번 문을 제외하고 나머지 문들을 모두 열었다고 해봅시다. 그렇다면 당신은 재빨리 그 남아 있는 777번 문으로 옮겨 가겠지요? 그렇지 않습니까?"

몬티 홀 문제의 해법을 제시한 마릴린 사반트

그러나 쉽게 설득되지 않았다. 그녀는 발생할 모든 경우를 표로 만들어서 다시 설명했다. 선택을 변경하지 않은 경우(표1)는 이길 확률이 3번 중 단 한번 밖에 없으나, 변경한 경우(표2)는 이길 확률이 3번 중 2번이기 때문에 선택을 바꿔야 한다고 하였다.

몬티 홀 문제를 정확히 설명하는 조건부확률 

이 문제는 조건부확률을 사용하여 정확히 설명할 수 있다. 사건 X가 발생할 확률을 P(X), 사건 Y가 발생할 확률을 P(Y)라고 하자. 사건 Y가 발생했을 때 X가 발생할 확률을 P(X|Y)라고 하면, P(X|Y)는 사건 X와 Y가 동시에 발생할 확률 P(X∩Y)을 사건 Y가 발생할 확률 P(Y)로 나눈 값이 된다.

                          

가령 (공평한) 주사위 두 개를 던질 때, 처음 주사위에서 5가 나올 확률은 1/6이다. 그러나 주사위 두 개에서 나온 값의 합이 9라고 알고 있다면 처음 주사위의 값이 5일 확률은 다를 수 있다. 주사위 두 개에서 나오는 경우의 수는 총 36가지인데 처음 주사위가 5가 나오고 합이 9인 경우는 단 한 가지 밖에 없다. 한편 두 주사위의 합이 9인 경우는 4가지 (3+6, 4+5, 5+4, 6+3)이다. 따라서 1/36을 4/36으로 나눈 값인 1/4 만큼의 확률이 된다.

     

사건 Y가 발생했을 때 X가 발생할 확률을 P(X|Y)라고 하였는데, 그러면 사건 X가 발생했을 때 Y가 발생할 확률 P(Y|X)에 대해서 알아보자. P(Y|X)는 다음과 같이 된다.

                           

이 식을 정리하면 P(X∩Y)는 P(X)와 P(Y|X)의 곱이 되어, 결국 P(X|Y)는 다음과 같다.

      

조건부확률을 계산하면, 선택을 바꾸는 것이 유리하다

자! 이제 자동차를 받을 수 있는 상황에 대한 확률을 계산해보자. 출연자가 문 1을 선택했을 때, 진행자는 문 2를 열어 염소를 보여주었다고 하자. 그러면 자동차는 출연자가 선택한 문 1에 있든지 아니면 문 3에 있든지 둘 중에 하나이다.

먼저, 자동차가 문 1에 있을 확률을 P(1에 자동차), 진행자가 문 2를 열 확률을 P(진행자 2엶)이라고 하자. 이 상황에서, 선택한 문 1에 자동차가 있을 확률은 얼마일까? 진행자가 문 2을 열었을 때 자동차가 문 1에 있을 확률 P(1에 자동차|진행자 2엶)은 다음과 같다.

   

여기에서 P(진행자 2 엶|1에 자동차)는 자동차가 문1에 있으면 진행자는 문 2를 열 수도 있고 3을 열 수도 있으므로 값이 1/2이다. 또한 P(1에 자동차)는 진행자가 문을 여는 행위와 상관없이 문 1에 자동차가 있을 확률이므로 1/3이다. 진행자가 문 2를 열 확률 P(진행자2 엶)은 출연자가 문 1을 선택했으므로 1/2이다. 따라서 아래와 같이 된다.

                                         

다시 말해서 문 1에 자동차가 있을 확률은 1/3이다. 그러면 이 상황에서, 선택하지 않은 문 3에 자동차가 있을 확률은 어떨까? 위와 마찬가지로 아래 식을 계산하면 된다.

      

여기서 P(3에 자동차)는 P(1에 자동차)와 마찬가지 1/3이다. P(진행자 2엶)도 역시 1/2이다. 그러면 P(진행자2 엶|3에 자동차)는 어떨까? 자동차가 문 3에 있다면 출연자가 문 1을 이미 선택했으므로 진행자는 문 2를 선택할 수밖에 없다. 따라서 경우의 수가 1이므로 P(진행자2엶|3에 자동차)는 1이다. 그러므로 문 3에 자동차가 있을 확률은 아래와 같다.

                                     

즉, 진행자가 2번 문을 열고나면 문 3에 자동차가 있을 확률은 2/3이다. 그러므로 선택을 3번으로 바꾸면 자동차를 받을 확률이 두 배로 늘어난다.

몬티홀 문제에서 선택을 바꾸면 이길 확률이 2/3가 된다.

혼란스러운 몬티 홀 문제를 간단하게 생각하는 방법

몬티 홀 문제는 언뜻 설명을 들으면 참 혼란스러운 문제이다. 그러나 쉽고 간단하게 생각할 수도 있다. 처음 선택한 문에 상품이 있을 확률은 1/3이며, 다른 두 개의 문에 있을 확률은 2/3이다. 그런데 그 두 개의 문 중에서 상품이 없는 문 하나를 열고나면 나머지 문에 상품이 있을 확률은 고스란히 2/3일 수밖에 없다!

글 최은미 / 한남대학교 수학과 교수