이집트 파피로니아의 쐐기서관과 그리스 고서(古書)에 초기수학의 내용이 담겨있다. 초기수학은 대부분 산술이나 대수, 기하, 삼각법과 관련돼 있다. 파피루스에 따르면 고대 이집트인들은 이미 십진법과 분수를 사용했다. 그들이 사용한 분수는 모두 단위분수인 1/n형태로 2/59는 1/36+1/531로 표기됐다. 단위분수의 사용은 계산을 복잡하게 만들어 산술의 발전을 이끌지 못했다. 그러나 이집트 수학은 상업과 농업에 응용되기에 딱 맞았다. 곡물을 저장하거나 분배하는데 있어 단위분수만이 필요했기 때문이다.
바빌로니아 수학은 이집트 수학보다 많이 앞섰다. 곱셈과 나눗셈을 사용해 복잡한 계산을 정확하게 했고 60진법을 사용했다. 60진법은 오늘날까지도 시간단위와 원의 각을 재는데 사용되고 있다. B.C. 1950년경의 쐐기서판에 따르면 바빌로니아인들은 2차방정식과 3차 방정식까지 풀 수 있었다. B.C. 600년경에서 A.D. 300년 사이 기록에 이들이 천문학에 수학을 응용했음을 알 수 있다. 천문학은 수학의 발달과 더불어 발전했다.
고대 그리스 수학의 꽃은 피타고라스 학파의 발견으로 만개했다. 피타고라스 학파는 수를 단위의 합으로 보았고 추상적 원자론의 형식으로도 표현했다(만물의 근원을 수라고 믿음). 피타고라스 학파의 가장 위대한 작품은 [피타고라스의 정리]이다. 한동안 그리스 수학의 중심이 되어온 피타고라스의 산술개념에 제논이 [제논의 패러독스]로 도전장을 내밀었다. 수학의 개념과 근간을 더 깊이 연구해야 함을 역설하는 것이 제논의 의도였다.
피타고라스 학파는 다시한번 제동이 걸렸는데 무리수의 등장이 바로 그것이다. 이전까지는 수의 단위를 정수와 정수의 비율로 봤는데 유리수로 표현해낼 수 없었던 것이다. 이 사건을 두고 수학사의 첫 위기라고도 말을 한다.
여하튼 이런 위기에 봉착한 피타고라스 학파는 산술에서 기하로 눈을 돌렸고 무리수 개념은 묻혀졌다. 기하를 중시한 풍조는 플라톤에까지 이어져 기하는 추론의 모델이 됐다. 유명한 고대 수학자 유클리드는 [기하학 원론]에서 정의, 공리, 가정, 증명등의 형식으로 기하학에 체계적으로 접근했다. 유클리드의 논의는 고대 그리스 논리학 모델이 됐고 공리화가 최상위의 과학적 논의 형식으로 자리매김 됐다.
유클리드가 이전에 존재하던 수학을 정리하고 편집했다면 아르키메데스는 독창적인 수학자로 인정받는 고대 그리스 수학자이다. 아르키메데스는 다양한 형태의 면적과 부피의 기하학적 성질들을 규정했다. 아르키메데스의 제자 아폴로니우스는 타원, 포물썬, 쌍곡선의 용어들을 도입했고 각각의 곡선들의 성질도 밝혀냈다. 하지만 가장 중요한 곡선은 단연 원이었다. 고대 그리스인들은 원을 완벽의 단계로 보았고 원운동을 천체운동 근본으로 평가했다. 유도소스나 히파르코스, 클라우디우스, 프톨레마이오스 등이 천체운동의 기하학적 모델을 발전시키는데 공헌한 수학자들이다.
고대 그리스 기하학의 마지막 스포트라이트는 파푸스에게 맞춰진다. 파푸스는 유클리드 이래 수학을 종합해냈다. 고대 그리스 수학은 기하가 주를 이뤘지만 대수적 발견들도 끊임없이 이어졌다. 대수와 기하를 연결하는 작업은 16세기와 17세기에 이르러 해석기하가 나타날때까지도 누구도 상상하지 못했다.
2. 이슬람-중세수학
로마제국의 몰락이후 그레꼬-로만 전통은 바그다드나 이스파한 등의 도시에서 이주한 학자들에 의해 비잔틴 양식으로 전해졌다. 이슬람 석학들은 인도와 중국의 수학적 발견을 전파하는데도 공헌했다. 인도의 10진법 수체계가 서양에 전수돼 오늘에 이르고 있다. 아라비아 과학은 대부분 천문학과 관련돼 프톨레마이오스의 '알마게스트' 연구에 집중했고 점성술과 삼각법의 발달을 가져왔다. 페르시아 시인 오마카얌은 대수와 기하를 공부하는데 많은 시간을 보냈다고 한다. 이슬람에서처럼 서양 학자들도 그리스나 아라비아의 기본원서들을 번역하면서 수학에 새로운 생명을 불어넣기 시작했다.
중세수학의 진보에서 가장 눈여겨볼 점은 물리학에 혁명적으로 수학을 응용시켰다는 것이다. 1453년 콘스탄티노플의 멸망과 함께 많은 동방수학자들이 그리스 지식을 서유럽에 전수했다. 레기오몬타누스는 스승의 뒤를 이어 프톨레마이오스의 '알마게스트' 번역을 완성했다. 이탈리아 예술가들은 위대한 건축물 제작에 기하학을 응용했고 원근법의 수학적 연구도 이뤄냈다. 레오나르도 다빈치나 레온 바티스타 알베르티가 대표적 인물.
16세기초 대수학에 일대 진전을 이뤄졌다. 이탈리아 수학자 타르탈리아가 3차 방정식의 일반해법을 발견해낸 것이다. 하지만 그의 업적은 카르다노 이름으로 출판됐고 카르다노는 허근을 최초로 인정한 수학자였다. 16세기말 수학자 비에트에 의해 오늘날 일반적으로 사용되는 +, - 기호들이 처음으로 사용되기에 이른다. 간편한 기호사용은 17세기 수학의 발전의 토대가 됐다. 16세기 전반에 걸쳐 수학자들은 계산의 편의를 위한 용어 도입이나 빠른 계산법 연구에 몰두했다. 이런 사조 속에서 스테빈은 소수자리 표기(0.035, 0.234)를 도입했고 네이피어는 로그를 창시했다.
3. 17세기-18세기
17세기 위대한 수학적 발견은 코페르니쿠스나 케플러, 갈릴레이 등에 의한 물리학-천문학적 혁명에 의해 고무됐다. 수학이 등속운동이나 가속운동에 분석에 어떤 식으로 응용되는지를 보이기 위해 갈릴레이는 투사체가 포물선 궤도를 그린다는 것을 증명했다. 17세기는 해석기하와 미적분학, 정수론, 확률론에 태어난 시기다.
프랑스 철학자 데카르트는 추론의 패러다임으로 논리학의 일인자로 등극했다. 데카르트는 대수학과 기하학을 접목시킨 좌표기하를 도입했다. 좌표를 도입함으로써 곡선의 성질을 연구하는 방법이 도식화됐다. 해석기하는 미적분학이 만들어지기 이전 곡선의 접선을 연구하는 도구로서 수학에 공헌했다. 카발리에리나 페르마, 호이겐스, 데카르트 등이 연구를 한 수학자들이다.
17세기 중반에 이르러 미적분학이 탄생될 수 있는 필수기반(해석기하, 무한개념, 접선의 연구)은 조성됐다. 뉴턴과 라이프니츠는 독립적으로 미적분학의 근본요소들을 발견해냈다. 이로써 미적분학이라는 근대수학의 백미가 탄생되기에 이른다. 뉴턴은 1665년 1666년에 이르는 동안 곡선접선이론을 만들어냈다. 반면 라이프니츠는 1673년에서 1676년 사이 테카르트, 호이겐스, 파스칼의 기하학을 연구하는 과정에서 속도의 미분개념을 만들었다. 또한 그는 새로운 수학분야에 필요한 기호들(dx, ∫등)을 도입했다.
18세기 수학은 미적분학 연구의 심층화로 특징지어 진다. 대부분 수학자들은 라이프니츠가 제시한 방법에 호의적었고 뉴턴의 미적분학을 거부했다. 베르누이는 라이프니츠의 논문을 통해 미적분학의 기술적 방법들을 연구했다. 오일러는 미분방정식의 이론을 개발시켰다. 오일러의 영향을 받아 라그랑주는 직관을 피하고 순전히 해석적 증명만을 요구하는 수학을 발전시켰다. 그는 미적분학에 있어 기하학적 도움이나 직관의 요소를 배재한 엄밀한 증명방법을 발전시켰다. 18세기말 라플라스는 뉴턴 세계관을 완성했다.
이 시기가 미적분학이 주류를 이루던 시기지만 17세기와 18세기에 걸쳐 정수론과 확률론에 관한 관심은 상당했다. 페르마는 이 두 영역에 독보적인 존재였다. 그는 게임이론이나, 사망률등에 관한 확률론 개념을 제시했다.
4. 19세기-20세기
수학사에 있어 19세기의 특기할 만한 일은 수학자들이 왕립협회나 아카데미에서 대학강단과 학교로 그 영역을 옮겨왔다는 점이다. 수학을 전파하기 위해 일선에 나선 것이다. 수학은 여전히 물리학과 독립적으로 방대한 양의 연구 결과들을 내놓으면서 맹렬히 발전을 거듭했다. 미적분학은 해석학 전반으로 그 개념을 넓혔고 기하학이나 정수론에 있어 발전을 거듭했다.
독일 수학자 가우스는 순수수학뿐만 아니라 응용분야에까지 혜안이 있었다. 그를 두고 18세기 수학과 현대수학의 다리를 놓았다고 평가한다. 가우스는 정수론에 있어 위대한 업적을 남겼고 복소수의 물리학적 설명(복소평면을 도입함으로써 가능해졌음)에도 성공했다. 현존하는 자료에 따르면 그도 이미 비유클리드 기하학을 발견한 것으로 보인다. 프랑스 수학자 코시는 미적분학 이론들을 엄밀하게 펼치는데 관심을 기울였다.
19세기는 수리물리가 급속도로 발전한 시기다. 라그랑주나 푸리에, 프와송, 코시 등 많은 수학자들이 열의 수학적 해석등 수리물리 분야에 업적을 남겼다. 푸리에는 '모든 함수는 삼각함수열의 특정형태로 표현된다'는 것을 증명했다. 디리클레는 푸리에 급수를 발전시킨 최초의 수학자아다. 이후 아벨이나 야코비 등에 의해 해석학에 중요한 발전이 있었다. 디리클레는 해석학적 업적을 이룩한 동시에 정수론에 해석학적 연구방법을 도입했다.
디리클레의 영향을 직접적으로 받은 사람은 리만이다. 리만은 위상과 해석학을 연결하는 '리만면'이란 개념을 도입했다. 그는 기하학과 정수론 연구에 큰 업적을 남겼다. 19세기는 현대수학의 근간을 이루는 업적들을 남긴 쟁쟁한 수학자들이 많았던 시기다. 많은 수학자들 중 바이에슈트라스는 해석학에 새로운 개념을 도입한 것으로 유명하다. 그는 무리수를 수열의 극한으로 표현해냈다.
19세기 말 칸토어에 의해 집합론에 처음으로 수학사에 등장했다. 집합론은 수학 통일화를 꿈꾸던 수학자들에게도 도구가 되어주는 듯 했다. 19세기 해석학이 급속히 발전함과 더불어 기하학은 새로운 영역은 '사영기하학'이 발견됐고 뫼비우스나 케일리 등 수학자들이 대수기하를 발전시키기에 이른다. 19세기의 기하를 한마디로 표현한다면 '비유클리드 기하'라고 할 수 있다. 기하 발달은 20세기에 이르러 프랙탈 차원 개념을 만들어냈다.
한편 19세기 수학의 특징으로 프랑스 수학과 독일 수학의 라이벌 관계를 언급하지 않을 수 없다. 19세기 전반을 이끈 것이 독일 수학자라면 19세기 말 프랑스 수학자들은 독일 수학자들과 어깨를 나란히 했다. 프랑스 수학자들 중 뛰어났던 사람은 푸앙카레를 들 수 있다. 그는 수학 전반에 걸쳐 두드러졌지만 20세 후반 카오스 이론의 모태를 제공했다는 점에서 높이 평가받고 있다.
이렇게 대륙의 수학자들이 기하학과 해석학에 몰두하는 동안 영국 수학자들은 대수를 연구하고 대수를 기하에 응용시키는데 관심을 기울였다. 영국의 대수는 '불대수'라 명명되는 형식을 취했다. 이런 사조는 이후 기호논리의 발달을 가져왔고 20세기 들어 러셀이나 화이트헤드 등에 의해 다듬어 졌다. 19세기말을 대표하는 수학자를 더 거론한다면 갈루아와 힐베르트를 들 수 있다. 갈루아는 군이론을 발전시켜 대수와 기하학을 통일시키는데 주력했다. 힐베르트는 수학의 엄밀성을 강조한 독일 수학자로 수학 형식화에 앞장섰다. 그의 노력은 괴델에 이어졌고 현대수학은 그 엄밀성이 강화되었다.
자연의 궁극적 진리라든가 수학의 기로 등과 관련해서 여전히 열린 문제들이 많다. 자유로운 사고를 허용하는 한 수학은 끊임없이 발전할 것이다