이와 같이 회의적인 태도는 전통적인 순수수학에서 뿐만 아니라 첨단기구인 컴퓨터에 의하여 처리된 결과들의 경우에도 당연히 적용된다. 뿐만 아니라, 이런 태도는 새로운 과학을 개척하는 창조성에도 크게 기여한다고 할 수 있다. 그래서 유명한 프랑스의 수학자요 철학자인 데카르트는 말하기를 ‘이 세상에 존재하는 모든 것의 존재성은 의심할 수밖에 없다. 그러나 내가 지금 의심하고 있다는 사실만큼은 의심할 수 없다’라고 했다고 한다.
요즘에는 광속과 같은 빠른 최첨단의 컴퓨터를 이용하여 손으로는 도저히 계산이 불가능하였던 수학적인 일들이 이제는 쉽게 처리되고 있다. 왜냐하면, 이런 복잡한 계산은 컴퓨터가 아니면 도저히 할 수 없기 때문이다. 그러나 과연 이런 복잡한 계산을 한 컴퓨터를 믿을 수 있을까? 하는 문제가 생긴다. 그런데 이런 의문을 잠재울 수 있는 일을 역시 컴퓨터가 할 수 밖에 없는바, 컴퓨터 이론분야에서 일하는 학자들은 이 문제를 해결하기 위한 많은 방법들을 연구하여 많은 유용한 결과들을 얻고 있다.
실제로 컴퓨터가 실행한 결과들에 대하여 신뢰성을 보장하는 것은 수학자 뿐 만 아니라, 많은 사람들의 관심사이다. 예를 들면, 어느 한 지점에서 다른 지점으로 이동하는 장소들과 움직이는 통로들에 관한 문제가 주어졌다고 하자.
모든 지점의 장소들을 중복하지 않고 통로들을 따라 모든 곳을 통과해서 돌아오는 경로가 있는지를 확인하는 문제가 주어졌다고 하자. 이른바, 그래프이론을 연구하는 학자들은 이런 문제를 해밀턴 순환경로라고 부른다. 이런 문제들은 흔히 통신망을 설계하는데 많이 응용하고 있다. 이런 적합한 경로를 컴퓨터에 물었을 때, 해밀턴 순환경로가 없다고 말하는 경우, 컴퓨터가 실제로는 존재하는 해밀턴 순환경로를 확인하지 못하고 지나가지 않았을 것이라고 어떻게 확신할 수 있는가? 좀 더 나쁘게 말하면, 컴퓨터가 해밀턴 순환경로를 확인하고도 그 해결방안을 컴퓨터가 말하지 않을 경우를 택하지 않았다고 어떻게 보장하는가? 하는 것이 오늘 우리가 생각해야 할 문제이다.
컴퓨터 과학의 핵심과제는 컴퓨터로 푸는 문제들을 이해하여 연산 장치의 한계를 밝히는 것이다. 현대의 연산 장치는 거의 무한대의 계산능력을 지닌 것처럼 보인다. 그래서 충분한 시간이 있으면 우리는 어떤 문제든 컴퓨터로 풀 수 있을 거라고 생각하기 쉽다. 그러나 문제가 쉬워 보이고 또 엄청난 자원이 주어졌다고 해도 컴퓨터의 계산능력에는 역시 한계가 있으며, 또 그 한계성을 수학자들과 전산 이론학자들은 증명할 수 있다.
물론 컴퓨터는 그래프의 가능한 경로를 샅샅이 추적하여 어떤 경로도 해밀턴 순환경로가 아님을 보임으로서 증명해 보일 수 있고, 많지 않은 정점에서는 일일이 모든 경로를 추적하는 일은 어렵지 않다. 하지만 정점들의 개수가 서서히 증가함에 따라 가능한 경로가 엄청나게 증가함으로, 정점들의 개수가 많은 경우에는 이와 같은 직접적인 접근법은 적용하기가 무척이나 어렵다. 뿐만 아니라, 어떤 문제에도 오류가 생길 가능성은 항상 상존하기 때문에 수학적 증명들은 쉽게 깨지기 쉽다.
마치 한 줄의 진주를 꿴 실의 어딘가가 끊어지면 목걸이 전체가 마루바닥에 흐트러질 것이며 파티가 끝날 때까지도 알아차리지 못할 수 있듯이 말이다. 수학적인 증명이란 바로 그런 것이다. 그래서 많은 수학자들은 무작위 추출읽기라는 것을 개발하여 비교적 적은 횟수만을 시행해보고 원래의 증명의 정확도를 거의 확실하게 확인할 수 있는 방법을 구축하였다. 하지만, 거의 확실하다는 것은 마치 야구시합에서 9회말 2아웃에 역전 승리타를 잘 치는 타자가 타석에 들어온 만큼의 가치만 있을 뿐이다.
그래서 수학자들은 항상 회의적인 시각을 가지고 만에 하나 있을 법한 반례(counterexample)의 존재에 대한 긴장의 끈을 놓지 못하고 안절부절 하는 것이다.
저작권자 © 전북도민일보 무단전재 및 수집, 재배포 금지
