확률을 공부하다 보면 우리의 본능과 너무나도 다른 부분이 있어서 고개가 갸웃거리는 문제가 있다. 바로 몬티홀 문제다. 문제 자체는 단순하지만, 문제 해결과정이 직관적으로 이해가 되지 않아서 “가장 해설이 어려운 문제”라고 꼽힌다.
이 문제가 왜 어려운지, 그리고 어떻게 해결하는지, 우리의 실생활에 어떻게 적용할 수 있는지 알아본다.
몬티 홀 문제 - 선택을 바꿀까, 말까?
TV 퀴즈쇼였던 “Let’s make a deal(거래를 합시다)“라는 프로그램의 사회자인 몬티 홀이 진행했던 문제다.
몬티 홀은 여기서 최종적으로 출연자에게 문제를 던지는데 바로 캐딜락 자동차가 걸려있는 문제다. 퀴즈의 규칙은 단순했다. 닫힌 문이 세 개가 있고, 그 뒤에 캐딜락이 한 대 서 있는 것이다. 그리고 출연자는 어느 문 뒤에 캐딜락이 서 있는지 맞추면 캐딜락을 얻는 것이었다.
하지만 이 퀴즈를 난감하게 만들었던 것은 바로 이 다음 규칙 때문이었다. 출연자가 세 개의 문 중 하나를 선택하면, 몬티 홀은 출연자가 고르지 않은 나머지 두 개의 문 중에서 ‘꽝’인 문을 열어버리고서 악마처럼 물어보는 것이다.
당신의 선택을 바꾸시겠습니까?
이 질문은 고도의 심리전처럼 느껴진다. 문 뒤의 상황을 다 알고 있는 사회자가 바꿀 수 있는 기회를 준다는 사실이 인지되면서 부담스럽게 다가오기 시작하는 것이다.
당신은 이 선택을 바꿔야할 것인가? 아니면 그대로 유지해야 할 것인가? 우선 정답은 바꿔야 이익이라는 것이다. 하지만 이 과정을 설명하기가 쉽지 않았기 때문에 이 문제가 전설의 문제가 되고 말았다. 하지만 조금 쉽게 생각해 보도록 하자.
가장 쉬운 몬티 홀 문제 해설 - 바꾼다는 확률로 계산하기
이 문제는 기본적으로 '직관적인 이해'가 어렵다는 점을 알아야 한다. 그래서 자꾸 다른 확률을 계산하는 오류를 범하곤 한다. 처음 선택하는 문의 확률과 두 번째 선택하는 문의 확률을 계산하는 것 등이다.
여기서 이 문제의 조건을 조금 간단하게 살펴보도록 하자. 그러면 이해가 쉬워진다.
- 이 게임은, 가장 처음 문을 선택하고
- 그 다음 선택을 바꿀 수 있는 기회를 얻는 게임이다.
즉, 이 상황으로 정리하자면, 자동차가 1번 문 뒤에 있을 때 다음과 같은 선택지들이 나온다.
| 캐딜락이 있는 문 | 첫 번째 선택 | 두 번째 선택 | 선택 유지여부 | 당첨여부 |
| 1번 | 1번 | 1번 | 유지한다 | 당첨 |
| 1번 | 1번 | 다른 문 | 바꾼다 | 미당첨 |
| 1번 | 2번 | 2번 | 유지한다 | 미당첨 |
| 1번 | 2번 | 1번 | 바꾼다 | 당첨 |
| 1번 | 3번 | 3번 | 유지한다 | 미당첨 |
| 1번 | 3번 | 1번 | 바꾼다 | 당첨 |
캐딜락이 있는 곳을 1번이라고 했을 때, 기본적으로 사람은 위와 같이 여섯 가지의 선택을 할 수 있다. 왜냐하면 두 번째 선택이 진행되기 전에 조건이 있기 때문이다. 바로, "내가 선택하지 않은 곳이자, 캐딜락이 없는 곳을 열어준다"는 것이다.
1번 문 뒤에 캐딜락이 있을 때 사회자는 내가 1번 문을 선택했을 때에는 2번이나 3번 문을 열어주고, 내가 2번 문을 골랐을 때에는 3번 문을, 3번을 골랐을 때에는 2번을 열어주게 된다.
즉, 1번 문을 선택하는 경우를 제외하고서는 열어주는 문은 결정된다. 그래서 일반적인 확률을 계산하듯 1/2, 1/3을 곱하고 있으면 이 문제는 어지러워진다. 여기서 집중해야 하는 부분은 두 번째 선택으로 캐딜락을 얻는지, 얻지 못하는지에 대한 확률이다. 그러므로 '첫 번째 문'을 선택하는 여부는 문제의 본질과 별 상관이 없는 것이다.
위 표의 오른쪽에 표시한 '선택 유지여부'와 '당첨 여부'만 살펴보도록 하자. 여기서 첫 번째 선택을 '유지했는데' 캐딜락을 얻은 경우는 처음에 1번 문을 선택한 경우 밖에 없다. 하지만 처음 선택을 바꾼 경우에는 약 66%가 당첨된다.
이걸 반대로 다시 한번 생각해 본다면, 처음에 내가 '처음에 캐딜락을 고를 확률=33%'를 그대로 유지하고 가서 자동차를 얻는 확률과, '처음에 캐딜락을 고르지 못할 확률=66%'에서 선택지를 바꾸어 자동차를 얻는 확률을 비교하는 것이다.
즉, 문이 세 개인 상황에서는 '내가 캐딜락을 고르지 못할 확률 = 선택을 바꿔서 차를 얻을 확률'이 된다. 문이 네 개가 된다면, 확률에는 조금 변화가 있지만 선택을 바꿨을 때 캐딜락을 얻을 경우의 수가 더 많아진다. 문이 늘어난다고 하더라도 '선택의 변화 여부'를 가지고 경우의 수를 계산한다면 쉽게 이해할 수 있다.
몬티 홀 딜레마의 실생활 적용
몬티 홀 딜레마를 통해 실생활에서 생각해볼 만한 부분은 다음 두 가지다.
정보를 새롭게 갱신하여 확률을 변경한다.
먼저, 정보의 갱신을 이용하여 선택지를 변화시키는 것이다. 초기 선택을 끝까지 고수하는 것이 아니라, 확률의 중요한 변경사유가 등장하게 된다면, 이를 반영하여 업데이트한다는 것이다. 이는 베이지안 확률추론의 사상과도 맞닿아 있다.
이것을 조금 더 실생활에 이끌어온다면, 투자를 진행할 때 여러 요소들을 감안하여 밸류에이션을 하고 이를 변경하는 것도 포함한다. 주식가격이 오른다고 생각하고 있더라도, 새로운 정보가 있을 때 이를 반영하지 않고 고수할 것인가? 아니면 반영할 것인가?
몬티 홀 딜레마는 '사회자와의 심리게임'이 아니라, 나의 선택을 변경하는지 여부가 결과에 어떤 영향을 주는지 살펴보는 게임이다. 이에 따라 정보의 갱신과 확률의 변경이라는 것이 얼마나 중요한지 아는 계기가 되면 좋다.
사람의 직감이라는 것은 왜곡될 수 있다.
몬티 홀 문제를 처음 들으면 상당히 헷갈린다. 그리고 나름 수학적인 계산을 한다고 생각하면서 다음과 같은 상황에 당황하게 된다.
"처음 선택한 문을 바꿀 때, 정답이 될 확률이 올라간다?" 라는 확률의 변화를 받아들이기가 어렵기 때문이다.
하지만 수학자들 역시 처음 이 문제를 들었을 때 꽤나 고민하기도 하였고, 많은 사람들이 이해하지 못했다. 어쩌면 이 문제가 우리의 직관과 가장 다른 문제이기 때문일 것이다. 이 문제를 통해서 우리는 직감이라는 것이 왜곡될 수 있다는 사실도 분명 기억해야 한다.
우리의 실생활은 대부분 조건부 확률로 이루어진다. 투자에 있어서도 이러한 부분을 잘 감안하며 접근할 필요가 있다.
퀀트 투자와 관련된 글들 바로가기
댓글