철학자의 시각으로 바라본 수학의 역사!

[차니]

• 수학의 모험, 이진경, 생각을말하다, 2021.

많은 이들이 수학을 어려운 과목으로 생각하고, 그것을 우리의 실생활에 적용할 여지가 별로 없을 것이라고 여기고 있다. 중고등학교에 다니던 시절을 떠올려보면, 그러한 생각들이 충분히 공감이 되고 일리가 있다고 할 수 있다. 내가 배웠던 수학 과목은 주어진 공식을 외우고, 그에 맞추어 반복적으로 문제를 풀었던 기억이 대부분이다. 그래서인지 ‘정석’ 혹은 ‘해법’이라는 타이틀을 내건 두꺼운 참고서를 처음부터 끝까지 풀었던 적이 거의 없었던 것으로 기억된다. 대학에서도 국문과를 전공으로 선택해서 진학했기에, 고등학교 졸업 이후 수학이라는 과목은 지금까지 나와는 전혀 상관없는 것으로 생각하며 살고 있다. 

학교 교육에서는 수학이 핵심 과목의 하나로 받아들여지고 있지만, 아마도 많은 학생들에게는 그저 까다롭고 어려운 과목으로만 인식되고 있을 것이다. 앞으로도 수학을 배울 일이 없겠지만, 수학 과목은 지금도 심리적 거리가 멀어서 여전히 가까워지기 힘들다고 느껴진다. 이러한 생각은 비단 나만이 아니라 많은 사람들이 하고 있을 것이다. 이제는 학교 교육에서 어려운 수학 과목을 포기한 학생이라는 말을 가리키는 용어로 ‘수포자(수학포기자)’라는 단어가 통용될 정도이다. 물론 이러한 인식이 수학이란 학문이 지닌 문제라기보다, 현재의 학교 교육에서 수학 과목을 가르치면서 파생되는 현상이라고 이해된다.  

'철학자 이진경이 만난 천년의 수학'이라는 부제의 이 책에서는 수학에 대해서 수식과 복잡한 개념 위주의 서술이 아닌, 수학의 본질과 그 전개 과정들에 대해 설명하고 있다. 저자는 '프롤로그'에서 '수학에는 왕도가 없다'는 말이 틀렸다는 것을 주장하고, '수학을 즐기게 만드는 것'이야말로 '수학의 왕도'라고 강조한다. 즉 '수학을 즐기는 것, 그것은 수학의 발상법을 배우고 그것을 갖고 노는 것이며, 그것을 여기저기 넘나들면서 사용해보고 변형시켜보는 것'임을 강조한다. 사회학을 전공한 '철학자'로서 저자는 철학적 사유를 바탕으로 수학의 문제에 접근하여 풀어내고 있다. 그래서 여전히 그 내용이 쉽게 다가오지는 않았지만, 이 책을 읽으면서 수학이라는 학문의 매력을 조금 향상시킬 수 있었다.

저자는 공식을 암기하고 사람들을 그에 맞춰 '문제를 푸는 기계'로 전락시키는 현재의 학교 교육의 문제점을 지적하면서, '상상력이 만드는 경이로운 수학의 세계'를 접할 수 있어야 한다고 강조한다. 전체 11장으로 이뤄진 목차는, '수학의 초상화들 -진리게임을 넘어서'라는 첫 번째 항목에서부터 '수학의 실용성'에 대한 의문을 제기하고 있다. 즉 전제(p)와 결론(q)으로 이뤄진 가정문에서, 어떤 경우에 참(T)이 되는가 하는 것은 수학적으로는 의미가 있을지 모르지만, 어떤 경우 우리의 실생활에서는 아무런 도움도 되지 않을 수 있음을 강조한다. 이것을 토대로 '모든 수학 이론이 수학적 진리와 무관하다는 것의 수학적 증명'을 펼쳐 보이기도 한다. 그리하여 '수학의 본질은 자유'라고 주장하면서, 수학이 ‘지겨운 숙련의 세계로 보이는 것은, 제도권을 장악한 수학자들이 대개는 진리의 수호를 자임하는 근엄한 경찰에 가까워서 그럴 것’이라고 강조한다.

'근대 과학혁명과 수학'이라는 제목의 2장에서는 자연을 수학화하려는 자연과학자들의 노력을 개략적으로 보여주고 있다. 즉 실험으로 증명될 수 있는 것만이 과학이라고 여겼던 실험과학의 관점이 '운동이나 원리를 수학적인 공식으로 표현하려는 태도'를 보인 갈릴레오가 '과학혁명의 아버지'로 불린 까닭이라고 설명하고 있다. 기독교적 신앙이 모든 이념의 중심에 놓여있던 서양의 중세시대에 이에 도전하는 것으로 여겨졌던 갈릴레오는 마침내 종교재판에 처해졌다는 사실은 잘 알려져 있다. '자연의 수학화'를 위해 노력했던 갈릴레오 이후, 서양의 과학은 '자연의 수학화'라는 관점에 도전하는데, 이를 3장의 '계산공간의 탄생'에서 다루고 있다. 각 장의 내용을 쉽게 설명하기 위해 적절한 예시를 들어 서술하는 방식을 취하고 있다는 것도 독자의 이해를 돕고 있다고 이해된다. 고대의 이집트나 그리스에서 수학은 기하학을 의미했지만, 인도나 아라비아에서는 대수학이 중심이었다고 한다. 데카르트는 기하학을 대수화하려는 노력을 보인 과학자로 여겨지며, 이것은 '해석기하학'의 탄생으로 연결되어 마침내 라이프치히의 좌표라는 개념으로 발전시킬 수 있었다고 설명한다.

자연의 모든 현상을 수로 표현하려는 노력은 근대 수학을 비약적으로 발전시킨 미적분학을 탄생시켰는데, 이러한 과정을 '수학의 마술, 혹은 마술사의 수학'이라는 제목의 4장에서 다루고 있다. 수학에 대한 관심을 놓은 지 오래되었지만, 여전히 미적분학이라는 단어를 들으면 어렵게 느껴지는 것은 어쩔 수 없다. 자세한 풀이 과정은 잘 모르겠지만, 그것이 무엇을 표현하고자 했는지에 대해서는 이 책을 통해서 나름대로 이해할 수 있었다. 수학의 전개 과정을 간략하면서도 쉬운 내용을 통해 설명하고 있어, 그 개념 정도는 정리할 수 있을 것이라 기대된다. '세계를 수학화하려는 꿈'이라는 제목의 5장에서는, 자연과학자들이 17세기 이후 자연과 세계에서 나타나는 모든 현상을 계산 가능한 것으로 만드는 것을 위해 노력했던 모습들을 적시하고 있다. 기존의 수학 영역에서 중심에 놓였던 대수학과 기하학 이외에 미적분학을 바탕으로 성립한 '해석학' 분야가 새롭게 대두해서 '수학의 왕좌'를 차지했다고 강조한다. 그리하여 '모든 것을 수학적 질서로 배열하고 체계화하는 방법'으로서의 '보편수학'이 수학적 사유의 공간을 형성하는 하나의 축으로 자리를 잡게 되었다.

6장의 '해석학의 위기, 기하학의 모험'에서는, 수학적 엄밀성에서 벗어나는 여러 가설들이 제기되면서 수학의 위기과 그것을 극복하려는 노력을 통해서 혁신과 발전을 이루었다는 점을 강조하고 있다. 7장부터 10장까지는 근대 수학이 처한 위기의 구체적인 예로써 다양한 역설들이 소개되고 있다. 이러한 역설에 대한 해답을 마련하려는 과정에서 수학의 발전이 이루어졌고, 수학 역시 '불안정성'을 지니고 있다는 것을 보여주고 있다. 

저자는 '두 개의 수학 삼각형'이라는 제목의 마지막 장에서 '엄밀성과 기초라는 단어에 짓눌려 있던 수학적 흐름이 자유롭게 흐를 수 있는 새로운 선들을 만들어'낼 수 있음을 강조한다. 그런 점에서 철학자의 관점에서 수학의 역사를 개관하고, 수학이 '하나의 철학'일 수 있음을 제기한 이 책의 내용을 흥미롭게 접할 수 있었다. 물론 수학의 역사에서 제기되었던 다양한 학설과 그 예로써 제시한 수식들에 대해서는 여전히 제대로 이해하지 못하고 있음을 고백할 수밖에 없다. 공식과 정리의 틀에 갇혀있었던 수학의 세계에 대해서 이해가 조금은 넓어진 듯하다.(차니)