그런데 고대 그리스 인들이 만든 3대 난제인 주어진 각의 3등분문제, 주어진 입방체의 두 배를 갖는 배적문제, 주어진 원과 같은 면적을 가지는 정사각형은 찾는 원적문제 등은 수학자들뿐만 아니라 수학에 관심을 갖는 사람들이 입맛을 다시는 문제이다. 왜냐하면 이런 문제들은 실제로 해결하기에는 어려운 문제이지만 문제가 단순하여 금방 해결될 것 같은 기분이 들기 때문이다. 지난번 수학이야기에서 원적문제에 대한 이야기를 논의한 바와 같이 이러한 문제들은 오랫동안 우수한 수학자들의 도전을 뿌리치고 19세기에 들어서야 겨우 해결의 실마리를 잡게 되었다. 결론은 위의 세 문제 모두 원을 그리기 위한 컴퍼스와 선을 긋기 위한 자만을 이용하여 작도하기에는 작도가 불가능하다는 부정적인 결과가 증명된 것이다.
“할 수 있다” 는 증명은 할 수 있다는 것을 실제로 한번만이라도 나타내면 증명이 되지만 “할 수 없다” 는 증명은 ‘아무리 해봐도 안 된다’ 는 것으로는 안 된다. 바로 이러한 점이 수 천년동안 사람들을 고민케 한 이유이다. 할 수 없다 는 증명의 어려움은 그 유명한 페르마의 정리를 생각해 보면 알 수 있다. 1993년에 해결되었으니 무려 350년 이상 수학자들의 골치를 아프게 한 문제이다. 그렇다고 ‘할 수 있다’는 문제가 그리 쉬운 것도 아니다. 예를 들면, 유명한 4색 문제는 “어떠한 경우에도 4가지 색으로만 선으로 접하고 있는 나라를 다른 색으로 구별할 수 있다” 는 것을 증명하는 문제이다. 수 천 가지 예를 들어 4색으로 칠 할 수 있다는 것을 보여 준다고 해도 다른 경우에도 칠 할 수 있다는 보증은 얻을 수 없기 때문이다. 모든 경우의 수를 어떻게 검증하느냐가 문제의 핵심이다. 실제로, 이 문제는 1852년 영국 런던 대학의 한 학생이 수업 중에 질문한 것이지만, 영국수학회 에서 정식 수학문제로 제기된 것은 1870년대 후반이니 이것이 난제로 인식되는 데만 20년이 걸린 샘이다. 그리고 100년 이상 어느 누구도 명확한 해결책을 내놓지 못했으나, 1976년경에 3대의 애플 컴퓨터가 4년간에 걸친 수천시간동안 계산을 해서 겨우 해결하였다.
그러나 아직도 정수의 벽돌문제 라고 불리는 “직방체의 3변의 길이와, 각 측면의 3개의 대각선과, 꼭지점에서 중심을 지나 대칭점에 도달하는 공간 대각선등 이들 7개의 길이가 모두 정수인 입방체가 존재하는가?” 하는 문제와, “4보다 큰 짝수는 2개의 소수(prime)의 합일 것이다” 는 골드바흐의 예상문제, 그리고 “임의의 두 무리수의 합이 무리수인가?” 구체적인 예를 들면, “π +e 가 무리수인가?” 등과 같이 아직도 해결되지 않은 많은 난제들이 산재해 있다.
<전북대 수리통계과학부>
