역설에 대한 예를 들어보자. 어디에 죄수 두 명이 있었다고 한다. 그 중 한명은 수학 교수였고, 다른 한명은 그 교수의 제자 학생이었다. 그들이 모두 나쁜 범죄를 하여 사형을 당하게 되었다고 한다. 그러나 사형수의 마지막 소원을 들어주는 관습에 따라 살려달라는 소원을 제외하고는 그들의 소원을 한 가지씩 들어 주도록 법무부 장관이 허락하였다. 그래서 먼저 수학 교수에게 소원이 무엇인지를 물었다. 그러자 그 교수는 나의 마지막 소원은 제자인 저 학생에게 마지막으로 수학을 강의하게 해달라는 것이라고 했다. 뭐 별로 어려운 부탁이 아니라고 생각되어 사형 집행자들은 그 소원을 들어주기로 했다. 그리고 이번에는 사형당할 학생에게 가서 죽기 전에 마지막 소원이 무엇인지를 물었다. 그 학생은 잠시 생각하고 나서 다음과 같이 말했다. ‘별로 어렵지 않은 소원입니다. 나의 마지막 소원은 저 교수님이 저에게 수학을 강의하기 전에 나를 사형시켜 주시는 겁니다.’ 어렵지 않은 소원이라고 생각하고 사형 집행자들은 그 학생의 소원을 들어 주기로 합의 하였다. 그리고 난후 사형집행자들은 고민에 빠질 수밖에 없었다. 왜냐하면 교수의 소원을 들어 주려면 학생에게 수학 강의를 듣게 해야 하고 학생의 소원을 들어 주려면 강의하기 전에 그 학생을 죽여야 했기 때문이다. 그래서 결국 그들을 사형시킬 수 없었다는 아이러니한 이야기이다. 이런 이야기는 논증의 궤변을 단편적으로 설명하는 내용이다.
궤변이란 간단히 말하면, 이치에 맞지 않는 변론을 이르는 말로서 얼른 들으면 옳은 것 같지만 실은 이치에 맞지 않는 말을 억지로 둘러대어 합리화시키는 허위적인 변론을 일컫는 말이다. 그리하여 상대방을 속여 거짓을 참으로, 참을 거짓으로 잘못 생각하게 하거나 거짓인줄 알면서도 상대방이 쉽게 반론할 수 없도록 하기 위한 사상적 혼란이나 감정이나 자부심 등을 교묘하게 이용하여 말하는 경우가 많이 있다. 그러므로 궤변은 처음부터 어떤 진실을 밝히기 위한 것이 아니라 다른 목적을 위하여 하는 경우가 많이 있다.
그러나 비슷하지만 역설이란 추론이란 점에서는 같지만 전혀 다른 유형의 추론이라 할 수 있다. 역설은 흔히 배리, 역리, 또는 이율배반이라고도 한다. 명확한 역설은 분명한 진리인 배중률에 모순되는 형태로 인도하는 것이 보통이다. 예부터 알려진 역설에 다음과 같은 것이 있다.
거짓말쟁이의 역설로는 신약성서 가운데 디도서(1:12)에 “그레데사람 중에 어떤 선지자가 말하되, 그레데사람들은 항상 거짓말쟁이며”라는 말이 있다. 그런데 선지자 자신이 그레데사람이므로 이 경우 ‘그레데사람은 항상 거짓말쟁이’라는 말을 긍정하거나 부정하거나 간에 모순을 낳는 것이므로 역설이다. 이 역설은 옛날부터 많이 논해 왔지만, 전칭명제의 부정은 특칭명제가 되는 점에 의문의 여지가 있다.
수학의 기초인 집합론에 관련하여서는 다음과 같이 역설이 지적되며, 이것을 조정하고자 하여 수학 기초론이 발달하였다. 리처드 베리의 역설은 ‘18자 이내로 정의할 수 없는 최소의 자연수’라고 말할 때, 이 자연수는 정의할 수 없다면서, 사실은 바로 18자로 된 말로 정의되었다. 그 외에도 러셀의 역설을 쉽게 설명한 것은 다음과 같은 것이다. 그리고 럿셀의 역설은, 만약 어떤 마을에 스스로 이발을 하지 않는 모든 이의 이발만을 해주는 이발사가 있다고 하자. 이 이발사는 이발을 스스로 해야 할까? 만약 스스로 이발을 하지 않는다면, 그 전제에 의해 자신이 자신을 이발시켜야 하고, 역으로 만일 스스로 이발을 한다면, 자신이 자신을 이발시켜서는 안 된다는 재미있는 역설이다.
<이학박사, 전북대학교자연과학대학 수학과 교수>
