초등학생도 하는 조선식 제곱근 풀이법(과학동아.07.3월호)

[한국의재발견]

초등학생도 하는 조선식 제곱근 풀이법

세계가 주목한 조선수학자 홍길주

| 글 | 서울대 과학문화연구센터 연구원ㆍsunbijun@hanmail.net |

어머니는 수학을 상당히 좋아해 일찍이 ‘산학계몽’(算學啓蒙)을 보셨다. 거기에 나온 분수나 직각삼각형에 관한 풀이를 보시고는 “어째 이렇게 어리석고 번거롭게 풀었을까?”하고는 스스로 새로운 방법을 만들어 푸셨다. 나중에 ‘수리정온’(數理精蘊)이라는 책을 찾아보니 그 안에 있는 방법과 어머니의 방법이 모두 맞아떨어졌다.

19세기 초반 조선의 유학자이자 수학자인 홍길주(洪吉周, 1786~1841)의 어머니 영수합서씨(令壽閤徐氏)의 수학적재능에 대한 일화다. 여기서 ‘산학계몽’(1299)은 중국의 수학자인 주세걸(朱世傑)이 지은 책으로 세종대왕도 신하인 정인지에게 직접 배웠을 정도로 조선시대에는 필수적인 수학 교과서였다. 이 책은 정작 중국에서는 사라져 버렸는데, 19세기 초반 추사체로 유명한 김정희(金正喜, 1786~1856)가 조선에서 인쇄된 책을 한 부 구해 청나라 학자들에게 전해줌으로써 중국에 다시 알려지게 됐다. ‘수리정온’(1723)은 중국에 온 예수회 선교사들이 전해준 책으로 서양수학에 관한한 가장 종합적인 내용을 담고 있었다.

수학사에서는 기존 풀이법과 다른 새로운 방법을 고안한 천재들을 종종 발견할 수 있다. 서양수학책을 보지도 않은 상태에서 고안해낸 방법이 서양식 방법과 똑같았으니, 홍길주의 어머니도 그 중 한 사람일 것이다. 더구나 그녀의 수학적 재능을 이어받은 아들은 전통적 방법이나 서양식 방법과 다른 획기적인 제곱근 풀이법을 개발했다.

정사각형 열어 한 변 구하기

고차방정식의 근을 구하기 위해 산판 위에 산가지를 펼쳐놓은 모습. 맨 윗줄의 상(商)은 산가지로 계산한 결과 근이 나오는 자리이고 그 아래로 각 줄마다 상수항, 1차항, 2차항, 3차항, 4차항, 5차항의 계수를 차례로 나타낸다.

어떤 수 a가 있을 때, 이것을 제곱한 수는 a²이다. 반대로 a²의 제곱근( 현재 수학교과서에서 a²의 제곱근은 ±a라고 배운다. 하지만 전통수학에서는 실생활 문제 위주여서 음수 제곱근을 생각하지 않았다. 사실 서양에서도 16세기 후반에야 음수 제곱근을 고려했다.)은 a다. 예를 들어 4의 제곱근은 2다. 2를 제곱하면 4가 되기 때문이다. 같은식으로 9의 제곱근은 3, 16의 제곱근은 4라는 사실을 금방 알 수 있다. 그러면 55225의 제곱근은 얼마일까?

이 문제처럼 암산으로 간단히 구하기 힘든 경우를 위해 제곱근을 구하는 일반적인 방법이 필요하다. 중국, 한국, 일본이 공유하는 동아시아의 전통수학에서는 이를 ‘개방술’(開方術)이라고 불렀다. 정사각형이나 정육면체처럼 변의 길이가 모두 같고 직각으로 만나는 경우를 방(方)이라 하는데, 정사각형은 평방(平方), 정육면체는 입방(立方)이라고 한다. 개방(開方)은 ‘방(方)을 풀어 헤친다’는 뜻이다. 정사각형을 풀어 헤치면 길이가 같은 4개의 변을 얻고, 이때 한 변의 길이는 정사각형 면적의 제곱근이 된다. 그러니 개평방술(開平方術)은 제곱근을 구하는 방법이요, 개입방술(開立方術)은 세제곱근을 구하는 방법이다.

동아시아 전통수학사에서 가장 중요한 고전인 ‘구장산술’(九章算術)은1세기경전 한시대 말까지 축적된 중국수학의 성과를 망라하고 있는데, 여기에 전통적 제곱근 풀이법이 실려 있다. 예를 들어 ‘정사각형의 넓이가 55225보(步)다. 한 변의 길이는 얼마인가?’라는 문제를 보자.

‘구장산술’에서 제시한 제곱근 풀이법의 핵심은 어떤 숫자의 제곱근이 ‘A백B십C’(식으로 나타내면 100A+10B+C)일 것으로 예상하고 각 자릿수 A, B, C가 무엇인지를 알아내는 것이다. 먼저 55225를 보고 예상해보면, 200의 제곱이 40000이고 300의 제곱이 90000이므로, 이 수의 제곱근은 200보다는 크고 300보다는 작을 것이니 A는 2임을 알 수 있다. 그 다음 200의 제곱인 40000을 원래 수에서 빼면 나머지는 15225다.

이제 10의 자릿수를 알아내기 위해 (200×2+10B)×10B를 15225에서 뺀다고 생각해보자. B가 3이면 (400+30)×30=12900이라 뺄 수 있지만, B가 4면 (400+40)×40=17600이라 뺄 수 없다.

따라서 10의 자리는 3임을 알 수 있다. 이제 B에 3을 넣어 15225에서 12900을 빼면 나머지는 2325다.

끝으로 1의 자릿수를 알아내기 위해 ×C를 2325에서 뺀다고 생각해보자. (460+C)×C로 바꿔 생각할 때 C가 5면 2325에 딱 맞는다. 그러므로 55225의 제곱근은 100의 자리 2, 10의 자리 3, 1의 자리 5가 돼 235임을 알 수 있다.

앞 문제는 x²=55225라는 방정식에서 근x를 구하는 문제로 다시 생각할 수 있으니 제곱근 풀이 문제는 원래부터 방정식과 깊은 연관이 있는 셈이다. 마찬가지로 세제곱 문제는 3차방정식, 네제곱 문제는 4차방정식이 된다.

제곱근 풀이에서 방정식 풀이로

주머니에 넣고 다녔던 산가지. 짧은 막대기일 뿐이지만 한국수학사에서 가장 널리 쓰였고 가장 효과적인 계산도구였다. 제곱근을 구할 때도 유용했다.

‘구장산술’에서 사용된 방법은 11세기 중엽중국학자가헌(賈憲)이 다항식의 전개와 계수에 대한 이해를 기초로 증승개방법(增乘開方法)이란, 다항방정식의 근사해를 얻는 방법으로 발전시켰다. 가헌이 증승개방법을 개발한 뒤 중국에서는 방정식 풀이법이 급속도로 발전했고, 송나라 때 진구소(秦九韶)라는 학자는 10차방정식을 풀어 세상을 놀라게 했다.

증승개방법은 글자 그대로 ‘더하고 곱해 제곱근 구하기’라고 말할 수 있다. 이 방법은 오늘날 고등학교에서 숫자계수방정식을 풀 때 사용하는 조립제법과 원리가 똑같다. 원래의 방정식에서 근의 근사값(x0)을 추정한 다음, 이 추정값과 실제값의 차이(x-x0)를 근으로 하는 새로운 방정식으로 변형시킨다. 이 방정식을 갖고 근에 좀더 가까운 해를 다시 설정해 또다시 새로운 방정식으로 변형시키는 과정을 반복하면 각 자리에 해당하는 실제값을 차례로 구할 수 있다. 이 방법은 서양에서 19세기 초반 파올로 루피니와 윌리엄 호너가 독립적으로 발견했다.

조립제법이나 증승개방법은 ‘구장산술’의 방법보다 개선됐다고는 하지만, 근본 원리는 ‘구장산술’의 방법과 똑같다. 이 모든 방법이 제곱근의 최고 자릿수를 예상한 뒤 적당한 수를 원래 수에서 빼고 차례로 낮은 자릿수를 얻는 방식이기 때문이다.

다만 증승개방법은 근사해를 설정해 방정식을 변형시키는 방법으로 거듭나면서 방정식의 일반적인 풀이법으로 발전할 수 있었다. 또 이를 계기로 중국수학은 송나라와 원나라 시대 방정식 풀이에 있어 황금기를 이뤘다. 변수가 하나인 고차방정식(x²+5x+1=25)을 풀어내는 방법인 천원술(天元術)은 물론이요, 변수가4개인 고차방정식(x-w²y-xy²-wz+xyz=0, wx-x²-y²-z+wxz=0, x²+y²+w²=z²+w, wx²y-x²y=0)을 풀어내는 사원술(四元術)까지 자유자재로 구사했다.

한국·중국 수학실력 겨루기

명나라 때는 상거래에 쓰이는 실용수학에 치우치면서 제곱근 계산과 방정식 풀이에 대한 이론적 연구는 오히려 퇴보했다. ‘ 산학계몽’이 중국에서 사라져버린 이유도 이 때문이었다. 명나라를 이은 청나라 시대에 증승개방법으로 고차방정식을 풀 줄 아는 사람이 거의 없었을 정도로 이 분야의 연구는 완전히 잊혀졌다.

반면 조선에서는 중국의 송나라와 원나라 때의 수준 높은 수학을 고스란히 보존하고 더욱 깊은 수준으로 연구했다. 특히 ‘산학계몽’같은 책을 잡과시험의 교재로 사용했다. 때문에 제곱근풀이와 방정식에 대한 이해는 조선 학자들이 같은 시대 명나라나 청나라 학자들보다 훨씬 앞서 있었다. 또 17, 18세기에 들어서는 유능한 수학자가 여러 명 출현하고 수준 높은 수학책이 다수 쏟아져 나왔다.

뺄셈만으로 가능한 새로운 풀이법

홍정하가 지은 ‘구일집’의 일부. 산가지를 이용해 10차방정식을 푸는 과정을 설명하고 있다. 막대기를 겹쳐 쌓아놓은 모양이 산가지로 표시한 숫자다. 막대기 하나를 사선으로 놓으면 그 숫자는 음수를 나타낸다.

그 중에서 ‘구일집’(九一集)이란 수학책을 쓴 홍정하(洪正夏)는 중국 수학자와 실력을 겨룬 사람으로 유명하다. 1713년 청나라의 수학자이자 천문학자인 하국주(河國柱)가 조선에 왔을 때, 홍정하는 그를 찾아가 수학에 관한 새로운 정보를 얻고자 했다.

하국주는 예수회 선교사들이 소개해준 서양수학을 조금 알고 있었기 때문에 조선수학자들의 수준을 은근히 무시했다. 그런데 어려운 문제라고 생각하던 고차방정식을 홍정하가 산가지 몇 개를 갖고 너무나 쉽게 풀어내자 하국주는 깜짝 놀랐다. 홍정하는 놀란 하국주에게 “이런 정도는 우리나라에서는 중급에 속하는 문제입니다”라고 대답해 더욱 기를 죽였다.

홍길주는 제곱근과 방정식에 대한 수준 높은 조선수학의 전통아래서 기존 방법과 완전히 다른 새로운 제곱근 풀이법을 고안해냈다. 그의 풀이법은 다음과 같다. 먼저 원래 수를 반으로 나눈 다음, 1부터 차례로 뺀다. 더 이상 뺄 수 없을 때 이 수를 2배 해 다음에 빼고자 했던 수와 비교해본다. 비교 결과 두 수가 같으면 그 수가 제곱근이다.

‘구장산술’의 방법, 증승개방법, 그리고 조립제법은 원리적으로 잘 만들어진 계산법이지만, 실제로 해보면 이해하기 쉽지 않고 계산과정도 복잡하다. 그러나 홍길주의 방법은 처음 수를 2로 나누는 과정과 끝에 남은 수를 2배하는 과정만 제외하면, 자연수를 순서대로 빼기만 하면 돼 너무나 쉽다. 홍길주 자신도 “멍청한 어린이라도 쉽게 할 수 있다”고 말했다.

다만 숫자가 커지면 뺄셈을 하는 횟수가 늘어 번거롭긴 하지만, 전통시대의 계산법에 따라 산가지로 빠르게 조작하면 뺄셈은 순식간에 할 수 있다. 자연수의 합을 구하는 공식(Σn=n(n+1)/2)을 아는 사람은 이 값을 미리 계산한 다음 원래 수에서 빼면 더 간단하다. 홍길주의 제곱근 풀이법은 초등학생도 할 수 있을 만큼 쉬운 방법이다.

홍길주는 자연수로 떨어지지 않는 제곱근뿐 아니라 세제곱근, 네제곱근, 다섯제곱근에 대해서도 아주 간단한 풀이법을 고안해냈다. 또 2개의 근사해를 가정해 비례식이나 연립방정식을 푸는 ‘쌍추억산법’이란 새로운 풀이법도 개발했다.

최근까지 홍길주는 문학사에서만 조금 알려져 있었다. 필자는 문학사 연구자의 권유로 2, 3년 전부터 홍길주의 수학과 조선후기의 수학사에 대해 연구했다. 연구 결과 그의 수학이 중국과 다른 조선수학의 독특한 전통 아래서 꽃피울 수 있었다는 점을 밝혀 2월에 나온 과학사 분야의 국제학술지(Science in Context)에발표했다. 홍길주라는 19세기 조선수학자가 세계에서 주목받기 시작한 셈이다.

P r o f i l e

전용훈 연구원은 서울대 천문학과를 졸업하고 동대학 대학원에서 전통과학사로 박사학위를 받았다. 현재 우리 전통 천문학과 수학의 역사를 연구하고 있다. 저서로‘물구나무과학’등이 있으며 논문으로는‘조선후기 서양천문학의 도입과정’, ‘19세기 조선수학의 지적 풍토’등이 있다.