중인 홍정하 - 고차방정식 등 실전문제 정통 양반 최석정 - 무한대 등 이론적 규명에 관심
"3백60명이 사람마다 은 1냥8전을 낸 합계는 얼마나 되겠소? 그리고 은 3백50냥이 있다고 합시다. 쌀 1가마니의 값이 1냥5전이라면 몇 가마니를 구입할 수 있겠소?"
1713년 한양에서 몇 명의 중국 그리고 조선의 수학자들이 토론을 하고 있었다. 중국인 수학자 하국주는 간단한 방정식 문제로 조선의 수학자들을 시험하고 있었다. 대적하던 조선의 수학자는 홍정하(洪正夏)라는 인물이었다.
1684년에 태어난 그의 아버지는 무과 출신이지만 수학에 밝았으며, 친할아버지.외할아버지 모두 수학에 능한 수학자 집안이었다. 홍정하는 간단하게 답을 내놓을 수 있었다.
"첫 문제의 답은 6백48냥이고 두 번째는 2백34가마니요."
그러자 하국주는 조금 있다가 다시 한 단계 어렵다고 생각되는 질문을 하였다. "제곱한 넓이가 2백25척인 땅이 있다. 각 면의 길이는 얼마인가?" 홍정하는 금방 "15척"이라고 답을 맞혔다.
그러자 중국 수학자 하국주는 새삼 홍정하를 칭찬하면서 자신에게도 문제를 한번 내보라고 권유하였다.
하국주와 함께 온 다른 중국인은 그가 중국 수학의 4인자 중 한사람이라고 치켜세웠다. 이에 홍정하는 조금 어려운 문제를 내보였다.
"지금 여기에 공 모양의 커다란 옥 구슬이 있다고 합시다. 이것으로 도장을 하나 만들려고 하는데 안에 내접한 정육면체(도장)를 가상할 때, 도장을 뺀 무게가 2백65근 5량 5전이외다. 단 입방체(도장)와 옥돌 사이의 두께는 4촌 5푼이라면 옥석의 지름 및 내접하는 정육면체의 한 변의 길이는 각각 얼마이겠소."
하국주는 당황해서 말을 더듬었다. "내일 이 문제를 풀어 답을 보여 드리도록 하겠다"면서 물러섰던 것이다. 당시 조선의 수학자가 내놓은 문제는 천원술(天元術)이라고 하는 일종의 고차방정식이었다.
조선의 모든 계산은 홍정하 같은 중인 수학자들의 몫이었다. 산사(算士) 혹은 산학가(算學家)라고 불리는 조선의 실무 수학자들은 현실에서 나타나는 다양한 방정식들을 풀기 위해 부단하게 노력하고 또 연구함으로써 중국에 비해 더욱 복잡하고 어려운 방정식을 풀 수 있었다.
실무적인 중인들에 비해 양반들은 수(數)의 철학적 아름다움과 비밀스러움에 더 매달렸다. 병자호란 당시 활약했던 최명길의 손자 최석정은 "구수략(九數略)"이라는 저서에서 무한대와 무한소의 개념을 연구한 바 있다.
양반 최석정이 생각한 수학이란 중인들의 단순한 문제풀이 과정이 아니라 수의 이론적 구명에 관심을 보이던 유학자들의 상수학을 의미하였다.
그 좋은 예가 바로 최석정이 크게 관심을 보였던 마방진(魔方陣)이다. 최석정은 1부터 81까지의 수를 가로, 세로 9줄씩 늘어놓고, 가로.세로 및 대각선 모두의 합이 각각 3백69가 되는 마방진을 작성하였는데, 여기서 9는 우주를 표현하는 수였다.
9개의 수가 9줄로 배열됨으로써 81을 만들고 더 나아가 그것들의 합이 공교롭게도 모두 3백69의 일정한 값을 가지게 되는 것은 일종의 환희였다.