그렇다면 수학자들이 말하는 무한이란 도대체 무엇을 말하는가? 적어도 수학자들에게 있어서 무한이란 수학의 일부분을 지탱해 주는 큰 주춧돌과 같다. 실제로 현대 수학의 많은 부분이 무한을 다루는 체계적인 방법으로 구성되어 있다고 해도 과언은 아니다. 모든 고등 수학에 이르는 문을 형성하는 것은 무한을 이해하는 데서부터 출발한다.
수학자들이 다루는 무한은 고대 그리스에서부터 시작되었다. 그리스 사람들은 무한을 다루는 수학적 도구를 개발할 수 는 없었지만, 무한을 야기 시키는 문제점을 인식하고는 있었다. 제논(Zenon)은 이런 문제점들을 일련의 유명한 역설을 통해서 예시했다. 제논의 역설이란 다음과 같다.
10리를 달리려고 출발한 사람을 생각해 보면, 10리를 달리기 전에 우선 5리를 달려야 한다. 그리고 나머지 5리의 반을 달려야 한다. 또, 나머지 반의반을 달려야 하고 이렇게 계속해야 한다. 우선 나머지 거리의 반을 달려야 한다는 조건은 계속 되므로 그 사람은 결승점에 결코 도달할 수 없다는 논리이다. 물론 제논은 그 사람이 결승점에 도달할 수 있음을 너무나도 잘 알고 있었다. 이 역설은 현대 수학자들이 쉽게 처리한다. 즉, 나머지 거리의 반을 달려야 한다는 조건들은 다음 무한급수로 표현되는 거리를 달려야 한다는 조건으로 해석된다.
1/2 + 1/4 + 1/8 + 1/16 + ......
만일 S 가 이 급수의 합이라 하고, 급수 전체에 1/2 을 곱해 보면, (1/2) S = 1/4 + 1/8 + 1/16 + 1/32 + ...... 이 되어 원래 급수의 첫째 항이 빠진 똑같은 급수를 얻는다. 따라서 첫째 급수에서 둘째 번 급수를 빼면 첫째 급수의 첫째 항 1/2를 제외한 모든 항이 소거되어 다음과 같은 결과를 얻는다.
S - (1/2)S = 1/2
따라서 S = 1 이다.
그런데 이런 방식으로 무한 급수에 곱셈과 뺄셈을 시행할 수 있을까? 유감스럽게도 유한 급수에서 실행 가능한 계산이 무한 급수에서는 성립되지 않는다. 예를 들면,
S = 1 - 1 + 1 - 1 +.....
이라면 양변에 -1을 곱해보면
-S = -1 + 1 - 1 + 1 - .....
이 되고, 첫째 급수에서 둘째 급수를 빼면 첫째 급수의 첫째 항 1을 제외한 모든 항이 제거되어 다음을 얻는다.
S - ( - S ) = 1 이 되므로 2S = 1이 되어
즉 S = 1/2 이 된다.
그러나 S = (1 - 1) + (1 - 1) + (1 - 1) + (1 - 1) + .... 이라 쓸 수 있고, 따라서 S = 0 + 0 + 0 + 0 + .... 이 되어 S = 0 이 된다. 반면에, S = 1 - (1 - 1) - (1 - 1) - (1 - 1) - .... 이라 쓸 수 있기 때문에 S = 1 이 된다. 그렇다면 1/2, 0, 1 중에서 S 의 정답은 무엇일까? 실제로는 이 특별한 무한급수의 합은 존재하지 않는다는 것이 정답이다.
가브리엘 호른(Gabriel Horn)은 수학자들의 마음속에 존재하는 악기이다. 이 악기의 입을 대는 부분은 천상에 있고 소리는 지상에서 무한히 멀리 떨어져 있는 나팔모양의 끝에서 나온다. 가상의 악기 가브리엘 호른은 실제로는 불가능함에도 불구하고 무한을 연구하기 시작할 때 발생하는 기묘한 현상을 설명하고 있다. 그러나 수학자들의 노력은 무한을 길들이는데 결국 성공하여 무한을 길들이기 시작하였다.
<전북대 수리통계과학부 교수>
