수학의 불완전성
수학의 불완전성
  • 소인섭
  • 승인 2009.06.04 16:11
  • 댓글 0
이 기사를 공유합니다

20세기의 수학자 주에서 가장 위대한 수학자는 과연 누구일까? 그 대답은 힐베르트라고 말하고 싶다. 특히 1899년에지은 그의 저서 기하학의 기초에서 제시한 공리계에 의한 기하학의 이론 구성 문제는 그가 1900년 파리의 수학자회의에서 행한 수학의 전망에 관한 강연과 함께 수학에서의 공리주의의 방향을 자리잡게 함으로써 새로운 시대를 열어 준 획기적인 것이었다. 그는 1900년 파리에서 세계수학자대회에 참석하여 강연한 이른바 20세기를 겨냥하여 만들어낸 23개의 문제는 유명한 문제이고 그중에는 아직도 미해결 문제로 남아 있는 것이 있다.

힐베르트는 그리스 수학이래 모든 수학자들이 꿈꾸어 오던 것처럼 유한개의 공리만으로 수학을 완성시킬 수 있다고 믿던 사람들 중에 하나다. 다시 말하면 수학적인 모든 명제들은 몇 개의 공리를 바탕으로 증명할 수 있다고 생각한 것이다. 이러한 입장에 서 있는 수학자들을 유한주의자들이라 말한다. 모든 서구의 지성사는 유클리드의 기학학 원론을 충실히 지켜온 셈이다. 1800년대 후기에 힐베르트는 집합론의 페러독스가 만든 수학의 위기를 극복하기 위한 작업의 하나로 먼저 수학체계의 모순이 이러나자 않는다는 것을 밝히려고 시도하였다. 그러기 위해 논리체계를 비롯하여 자연수 체계, 집합론, 실수론등의 공리계에 대해서 재검토허여보고 무모순적인 공리계를 확립하여 이들의 완전성을 확실히 보장받도록 할것을 제창하였다. 이것이 이른바 힐베르트의 프로그램이다. 여기서 말하는 완전성이란 어떤 공리를 바탕으로 이루어지는 수학 체계 내에서 다루어지는 명제의 참, 거짓중의 하나가 반드시 증명가능하다는 것을 말한다. 그 첫 시도로서 고전적인 명제논리뿐만 아니라 술어논리의 체계가 무모순이자 완전하다는 사실이 밝혀졌다.

힐베르트의 야심찬 이 계획은 그의 추종자들에 의해 추진되어 가고 있었다. 이들 중 오스트리아 출신의 젊은 수학자인 괴델이 있다. 그는 우선 힐베르트의 프로그램이 실현가능한지 여부를 알기 위해 수학의 완전성을 증명하려고 시도했다. 모든 수학자들은 어떤 문제의 해답을 찾기 앞서 그러한 해답이 과연 존재하는가를 먼저 확인해 보려고 한다. 그 좋은 예로 가우스의 대수방정식에 대한 해의 존재 증명을 들 수 있다. 이것은 마치 보물섬을 찾아나서는 모험가가 먼저 보물섬의 존재 여부를 확인하는 것과 같다. 그러나 그 결과는 수학의 완성을 기다리는 사람들에게 찬물을 끼얹고 말았다. 그는 수학자들이 기대했던 결과와는 반대로 수학의 완전성이 아나라 불완전성을 증명해 버린 것이다. 즉, 보물섬은 어디에도 존재하지 않는다는 사실을 엄밀하고 꼼꼼하게 증명해 버린 것이다. 잔뜩 기대에 부풀었던 힐베르트와 그의 추종자들은 실망하고 말았다. 역시 인간의 한계는 불완전하다는 사실이고 불완전한 사람들에 의해서 만들어진 진리도 불완전한 것일 뿐이다. 그후 볼츠만, 하이젠베르그, 아인슈타인, 괴델 등 수학의 천재들의 손에 의하여 수학의 한계가 잇달아 들춰지기 시작했던 것이다. 이것은 마치 수학과 과학이라는 종교의 대사제들이 그들의 신을 스스로 부정한 것이다. 어쩌면 이 모든 것이 하늘 높은줄 모르고 치솟던 인간의 오만에 대한 경고를 내린 셈이었다. 더구나 카오스는 극미한 원자의 세계나 저 멀리 있는 우주의 일이 아니고 바로 우리 주변에서 흔히 볼 수 있는 현상이라는 점에서 충격적이었다.

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.