수학이야기가 독자들로부터 어렵다는 이야기가 있어 이번에는 옛날 우리 수학자의 이야기를 한다. 1684년에 태어난 홍정하는 조선시대 숙종과 영조 때의 수학자다. 홍정하는 대대로 수학자 집안에서 자랐다. 요즘 같으면 학자 집안이었겠지만 그 당시 수학자들은 산학자로 불린 중인 계급이었다.
조선시대에는 산학 시험에 합격해야 산학자가 되는 공인 수학자 제도가 있었다. 홍정하는 산학교수를 지냈다. 그의 저서 ‘구일집’의 내용은 산학계몽을 골자로 하고, 일부를 구장산술이나 상명산법 등에서 문제를 추려내고, 당시의 사회적 실정에 알맞도록 수치를 약간씩 바꿔놓는 정도의 형태로 엮어졌다. 그렇다고 이 수학책을 넘겨보아서는 안 된다. 구수략으로부터 겨우 10여년이 지나 엮어진 이 책에는 전자에는 전혀 보이지도 않았던 천원술 방법이, 그것도 산학계몽에서의 27개에 대하여, 그보다 엄청나게 많은 166개를 헤아리는 문제가 다루어지고 있다.
그동안 중국 본토에서는 완전히 잊혀지고 말았던 천원술의 전통이 한국의 중인 산학자 사회에서 이어지고 있었던 것이다. 수학책 구일집은 천·지·인 등의 8권과 부록으로 구성되어 있다. 그 당시 유럽에서도 상인들이 셈을 전문으로 하는 수학자를 고용했는데, 그것이 직업이 되었다.
1713년 5월 29일 홍정하는 같은 수학자인 유수석과 함께 조선에 온 중국의 사력 하국주를 만나 수학에 대해서 이야기를 나누었다. 사력은 중국 천문대의 관직으로, 하국주는 천문과 역산에 밝았고 산학에도 뛰어난 실력자였다. 하국주와 홍정하의 만남은 요즘처럼 공식을 암기하고 문제 풀이나 하는 수학 공부와는 달리 대화를 하는 식이었다. 그렇게 대화와 토론을 통해 생각의 부족함을 채우고 새로운 것을 발견하며 어려운 문제를 풀어 나가려 했다. 홍정하가 쓴 수학책 구일집에는 수학의 대화가 소개되어 있다. 홍정하는 하국주를 만나 공손히 “아무 것도 모르니 산학을 가르쳐 주십시오”하고 말했다. 하국주는 우쭐대며 ‘이런 문제를 알겠는가’하는 얕보는 마음으로 문제를 냈다.
(1) 360명이 한 사람마다 은 1냥8전을 낸 합계는 얼마나 되오? 그리고 은 351냥이 있는데 한 섬의 값이 1냥5전 한다면 몇 섬을 구입할 수 있겠소? 어릴 적부터 산학 문제를 풀면서 실력을 갈고 닦은 홍정하는 금세 답이 나왔다. 앞 문제의 답은 648냥이고, 다음 문제의 답은 234섬이 되옵니다. 홍정하가 금방 문제를 풀자 하국주는 다음으로 도형 문제를 냈다.
(2) 크고 작은 두 개의 정사각형이 있소. 두 정사각형의 넓이의 합은 486평방자이고, 큰 정사각형의 한 변은 작은 쪽의 한 변보다 6자만큼 길지요. 두 정사각형의 각 변의 길이는 얼마가 되겠소? 물론, 이 문제도 홍정하, 유수석 두 수학자들은 모두 풀었다. 옆에서 지켜보고 있던 중국 사신이 하국주의 체면을 살리려는 듯 말참견을 했다. 사력은 계산에 대해서는 천하의 실력자요. 여러분 따위는 도저히 견줄 바가 못 되오. 사력은 많은 질문을 했는데 여러분도 그에게 문제를 내야하지 않겠소? 이에 홍정하, 유수석 두 수학자는 다음과 같은 문제를 냈다.
(3) 여기 공 모양의 옥이 있습니다. 이것에 내접한 정육면체의 옥을 빼놓은 껍질의 무게는 265근이고 껍질의 두께는 4치5푼입니다. 옥의 지름과 내접하는 정육면체의 한 변의 길이는 각각 얼마입니까? 이 문제를 듣고 하국주는 한참 고민하더니 이렇게 말했다. 당장에는 풀지 못하지만 내일은 반드시 답을 주겠소. 그러나 다음날에도 끝내 정답을 내놓지 못했다. 하국주의 참패였다. 홍정하는 정육면체의 한 변의 길이는 약 5치이고 옥의 지름은 약 14치라고 말해 주었다. 그리고 답 풀이를 해 주었다. 옥의 지름을 구하려면 구의 부피를 내는 공식을 알아야 하는데 홍정하는 구의 부피를 지름과 높이가 같은 원기둥 부피의 2/3를 이용하여 구했다.
이번에는 하국주가 문제를 냈다. 지름이 10자인 원에 내접하는 정오각형의 한 변의 길이와 넓이는 각각 얼마요? 그러자 유수석이 말했다. 조선에는 아직 이런 학문이 없습니다. 이에 대해 하국주는 보충 설명을 해 주었다. 원은 360도이고 정오각형의 꼭지각의 하나는 72도가 되는데 그 반인 36도에서 정현수(sine)의 값을 구하게 되오. 유수석은 다시 물었다. 정현수는 어떤 방법으로 얻은 것입니까? 8선표(삼각함수표)가 있으면 곧 값을 구할 수 있지만 매우 어렵기 때문에 여기서는 대답하기가 어렵소.
홍정하는 캐물었다. 이치가 아무리 심오하고 어려울지라도 배울 수 있습니다. 그 길을 알려 주십시오. 하국주는 자신이 쓴 구고도설이라는 책을 보여 주었다. 이 책은 서양의 피타고라스 정리와 같은 구고현의 정리를 이용한 문제들이었다. 고차 방정식의 문제가 있었다. 조선의 두 수학자는 산목셈으로 척척 풀었다. 산목셈이란 대나무 가지 같은 것으로 계산하는 계산기의 일종이었다. 하국주는 중국에는 이런 것이 없으니 가지고 돌아가서 모두에게 보이고 싶다고 했다. 하국주가 살았던 때의 중국에서는 이미 사라져 버렸고 조선에는 그대로 보존되어 있었다. 중국에서는 뒷날, 조선의 수학이 없었다면 이 부분에서 동양 수학의 명맥이 끊어졌을지 모른다고 말하기도 했다.
<이학박사 김인수, 호남수학회장, 전북대학교 자연과학대학 수학과>
