18세기 프랑스의 유명한 도박사 드 메레는 당시 최고의 수학자인 파스칼에게 도박과 관련된 문제를 의뢰했다. 흔히 점수 문제(problem of points)라고 불리는 이 문제는 확률론이 발전하는 중요한 계기를 마련했다. 드 메레가 만든 문제는 다음과 같은 것이다.
두 도박꾼이 득점할 확률은 똑같다고 하자. 이 두 사람이 먼저 3점을 얻으면 이기는 내기를 했다. 두 사람은 각각 100만원씩의 돈을 걸고, 이기는 사람이 200만원을 갖게 된다. A는 2점, B는 1점 득점한 상태에서 게임을 중단하였을 경우, A와 B가 차지해야 할 몫은 얼마인가? 라는 문제이다.
드 메레의 의뢰를 받은 파스칼은 이 문제를 다음과 같이 해결했다. A가 이기면 점수는 A : B = 3 : 1 이므로 A는 200만원을 갖게 된다. 판돈이 200만원이므로 물론 B가 갖는 돈은 없다. 그런데 만일 B가 이기면 점수는 A : B = 2 : 2 이므로 A와 B는 각각 100만원씩을 갖게 된다. 이 두 상황을 종합할 때, A는 100만원을 이미 확보해 놓았고, 나머지 100만원을 더 얻을 확률은 1/2이므로 A는 100만원+100만원*1/2=150만원, B는 50만원을 가지면 된다라고 문제를 풀어 주었다.
그러나 파스칼은 혹시나 자기의 해답이 오류가 있을지도 모른다는 생각으로 자신과 쌍벽을 이루던 그 유명한 페르마의 정리로 세상의 많은 수학자를 괴롭힌 수학자 페르마에게 자신의 풀이를 보냈으며, 페르마는 도박사 드 메레의 문제를 다른 방법으로 문제를 해결하였다.
이 문제의 핵심은 A가 2점, B가 1점을 득점한 경우, 앞으로 최대 2번으로 승패가 결정된다라는데 아이디어를 얻은 것이다.
이 때 나타날 수 있는 경우는 모두 4가지로, 두 번 모두 A가 이기는 경우, A가 이기고 그 다음에 B가 이기는 경우, B가 이기고 나서 A가 이기는 경우, 2번 모두 B가 이기는 경우이다. 이 4가지 경우 중 최종적으로 A가 이기는 경우는 앞의 3가지이고 B가 이기는 경우는 마지막 1가지이다. 따라서 A는 200만원의 3/4인 150만원을 갖고, B는 나머지 50만원을 가지면 된다.
결국 같은 답을 얻은 페르마는 이 풀이법을 파스칼에게 보냈고, 파스칼은 이에 착안하여 이항정리로 이 문제를 다시 풀었다.
A가 2점, B가 1점 득점한 경우 승패를 가리기 위해 치뤄야 하는 게임이 최대 2번이므로, 제곱식을 이용할 수 있다. (A+B)*(A+B)=A*A+2AB+B*B에서 첫째 항 A*A과 둘째 항 2AB는 A의 승리가 되며, 마지막 항 B*B 은 B의 승리가 된다. 따라서 A와 B가 승리할 때의 계수는 각각 3과 1이므로, 3/4 이 A가 승리할 확률이며, 나머지 1/4 이 B가 승리할 확률이다.
확률 이론은 수학의 다른 분야에 비해 뒤늦게 체계화되었다. 확률의 가장 대표적인 도구라고 할 수 있는 주사위는 아주 오래 전 고대 문명의 발상지에서부터 출토되는데, 종교적 의식을 행할 때 신성한 판단을 내리기 위해 주사위를 던졌을 것으로 추측된다. 이런 주술적인 상황에서의 선택은 신의 의지에 따르기 때문에 유한한 인간이 가능성, 즉 확률을 분석하는 것은 불경스러운 것으로 간주되었다. 그러다보니 우연 현상과 불확실성을 다루는 확률 분야는 다른 수학 분야에 비해 이론화 작업이 늦게 이루어졌다. 그런데 아이러니하게도 주술적인 의식에서는 경건한 초월자의 선택이라고 여겨 시도조차 하지 못했던 확률의 이론적 분석이 도박의 판돈을 계산하는 지극히 인간적인 상황과 맞물리면서 활발하게 연구된 것이다.
<전북대 수리통계과학부 교수>
