“사력은 계산에 대해서는 천하의 실력자요. 사력의 수학의 조예는 깊기가 한량이 없소. 여러분 따위는 도저히 견줄 바가 못 되오. 사력은 많은 질문을 했는데 여러분도 그에게 문제를 내야하지 않겠소?” 이에 홍정하, 유수석 두 수학자는 다음과 같은 문제를 냈다.
“지금 여기에 공 모양의 옥이 있습니다. 이것에 내접한 정육면체의 옥을 빼놓은 껍질의 무게는 265근이고 껍질의 두께는 4치 5푼입니다. 옥의 지름과 내접하는 정육면체의 한 변의 길이는 각각 얼마입니까?”
이 문제를 듣고 하국주는 한참 고민하더니 이렇게 말했다. “이것은 아주 어려운 문제요. 당장에는 풀지 못하지만 내일은 반드시 답을 주겠소.” 그러나 하국주는 다음날에도 끝내 정답을 내놓지 못했다. 하국주의 참패였다.
홍정하는 정육면체의 한 변의 길이는 약 5치이고 옥의 지름은 약 14치라고 말해 주었다. 그리고 답 풀이를 해 주었다. 옥의 지름을 구하려면 구의 부피를 내는 공식을 알아야 하는데 홍정하는 구의 부피를 지름과 높이가 같은 원기둥 부피의 2/3를 이용하여 구했다. 따라서 홍정하는 구의 부피를 내는 공식을 생각했고 하국주는 전혀 생각을 못했다. 이번에는 하국주가 어려울 것이라는 표정으로 문제를 냈다. “지름이 10자인 원에 내접하는 정오각형의 한 변의 길이와 넓이는 각각 얼마요?” 그러자 유수석이 말했다. “조선에는 아직 이런 학문이 없습니다. 어떤 방법으로 하는 것입니까?”
이에 대해 하국주는 보충 설명을 해 주었다. “원은 360도이고 정오각형의 꼭지각의 하나는 72도가 되는데 그 반인 36도에서 정현수(sine)의 값을 구하게 되오.” 하국주의 설명을 듣고 유수석은 다시 물었다.
“정현수는 어떤 방법으로 얻은 것입니까?” “8선표가 있으면 그것으로 곧 값을 구할 수 있지만 일일이 계산하자면 매우 어렵기 때문에 여기서는 대답하기가 어렵소.”
여기서 8선표는 삼각함수표를 말한다. 홍정하는 하국주의 대답에 만족하지 않고 꼬치꼬치 캐물었다.
“이치가 아무리 심오하고 어려울지라도 배울 수 있습니다. 그 길을 알려 주십시오.”
하국주는 자신이 쓴 『구고도설』이라는 책을 보여 주었다. 이 책은 서양의 피타고라스 정리와 같은 구고현의 정리를 이용한 문제들이었다. 하국주가 내놓은 문제 가운데에서 고차 방정식의 문제가 있었는데 조선의 두 수학자는 그것을 '산목셈'으로 척척 풀었다. 산목셈이란 대나무 가지 같은 것으로 계산하는 계산기의 일종이었다.
하국주는 중국에는 이런 것이 없으니 가지고 돌아가서 모두에게 보이고 싶다고 했다. 하국주가 살았던 때의 중국에서는 이미 사라져 버렸고 조선에는 그대로 보존되어 있었다. 중국에서는 뒷날, 조선의 수학이 없었다면 이 부분에서 동양 수학의 명맥이 끊어졌을지 모른다고 말하기도 했다.
