수학사 최대의 미스터리 - 피에르 드 페르마

[루아흐]

수학사 최대의 미스터리 - 과연 페르마는 알고 있었을까?

2014.11.05 KISTI의 과학향기


‘아마추어이면서 전문가를 가지고 논 사람’


‘그의 업적에 대해서는 별로 아는 것이 없는 일반인들조차도 주저 없이 최고의 수학자로 꼽을 수 있는 사람’, ‘수많은 수학 천재들에게 좌절의 아픔을 맛보게 한 사람’, ‘쓸모없는 일에 많은 사람들의 정력을 낭비하게 한 사람’은 과연 누굴까?

피에르 드 페르마(1601~1665)는 1601년 프랑스 서부의 보몽 드 로마뉴에서 가죽 상인의 아들로 태어나, 30세 때 지방의회의 의원직을 얻어 가족들의 희망대로 공무원 생활을 하였다. 페르마가 살았던 17세기 프랑스는 소설 삼총사에서도 알 수 있듯이 정치적으로 매우 혼란스러운 시기였기 때문에 페르마는 정치적 음모에 휘말리지 않기 위해 매우 청렴하고 성실하게 공무를 수행했다고 전해진다. 즉 페르마는 정치적 야심을 포기하고 자신의 열정을 혼자서 취미 생활하는데 모두 쏟아 부었다. 그의 취미는 다름 아닌 수학 연구였다.

오늘날 관점으로 본다면 이해하기 어렵겠지만 당시 수학은 별 볼일 없는 과목이었다. 갈릴레이조차 수학교수의 박봉으로 생활이 어려워 개인 과외를 해야 했을 정도였다. 이러한 수학의 암흑기에 페르마는 정식 수학 교육을 받지도 못했으며, 그에게 유일한 스승은 오로지 디오판투스의 <아리스메티카(Arithmetica)>라는 수학책이 전부였던 것이다.

또한 파스칼과 메르센 신부를 제외하고는 당시 유명한 수학자들과 특별한 교류도 없었지만 페르마는 수학사에 탁월한 업적을 남겼다. 페르마는 자신의 업적을 출판하는 것을 별로 좋아하지 않아 그의 아들이 사후에 자료를 모아 세상에 내놓게 된다. 이는 자신의 책을 보고 쏟아질 많은 수학자들의 질문을 받는 것이 귀찮았기 때문이라고 한다. 즉 페르마는 오로지 즐거워서 수학을 공부했을 뿐 명예를 얻는 것에는 큰 관심이 없었다. 하지만 페르마는 수학을 전공한 수학자들보다 더 많은 업적을 남기며 ‘아마추어 수학의 왕자’라는 칭호를 얻게 된다.

페르마의 업적은 미적분학에서부터 확률론과 해석기하학, 정수론에 이르기까지 다방면에 걸쳐 있다. 흔히 미분법은 뉴턴, 적분법은 라이프니츠가 창시했다고 알려져 있지만 페르마는 이들보다 앞서 이미 미적분에 대한 개념을 가지고 있었다. 물론 미분법의 개념이 고대 그리스에서 이미 시작되기는 했지만 곡선에 접선을 그리는 문제와 함수의 극대 극소값을 구하는 방법에 대한 페르마의 연구가 바로 뉴턴의 미분법으로 이어진 것이다. 즉 페르마는 lim(E→0){f(x+E)-f(x)}/E라는 식을 통해 극대와 극소값을 구하는 방법을 논하고 있는데, 이는 오늘날 고등학교 수학시간에 배우는 미분법과 그 원리가 같다. 사실 뉴턴도 자신의 논문에서 페르마의 연구에서 착상을 얻어 미분법을 완성했다고 분명히 밝혔지만, 뉴턴의 명성에 가려 이러한 사실은 잘 알려지지 않고 있는 것이다.

오늘날 직교좌표계가 데카르트 좌표계로 불리기도 하는 것은 데카르트가 해석기하학을 발명해 냈다고 알려져 있기 때문이다. 해석기하학은 기하학에 대수학을 접목시킨(또는 대수학에 기하학을 접목시켰다고 생각해도 된다) 획기적인 방법으로 이를 통해 수학은 또 한 단계 발전할 수 있는 발판을 마련하게 되었다. 즉 유클리드 이후 별다른 발전이 없었던 기하학이 새롭게 도약할 수 있었던 것은 바로 좌표계를 도입한 해석기하학의 등장 덕분이었던 것이다. 하지만 페르마의 원고에 따르면 그는 데카르트보다 먼저 해석기하학을 발명했으며, 페르마의 좌표계가 데카르트의 것보다 훨씬 오늘날의 좌표계에 가까운 것이었다는 것을 알 수 있다.

수학의 한 분야인 확률론은 페르마가 파스칼과 함께 편지를 주고받으며 탄생시켰다고 한다. 17세기 유럽에는 주사위 놀이를 사교 문화의 하나로 즐기는 사람이 많았다. 그중 한 사람이었던 슈발리에 드 메레라는 도박사가 친구였던 파스칼에게 주사위 도박에 관한 질문을 했다. 즉 주사위 도박을 하다가 중단했을 때 상금은 어떻게 배분하는 것이 옳은가에 대한 질문이었다. 이 질문에 대한 답을 구하기 위해 파스칼은 친구인 페르마에게 편지를 썼고 서로 만나지도 않았지만 두 사람은 편지를 통해 현대 수학의 큰 축인 확률론을 탄생시키게 되었다.

이러한 업적만 해도 놀라운데, 페르마를 정말 유명하게 만든 것은 ‘페르마의 마지막 정리’로 알려진 실용적인 측면이라고는 찾기 어려운 정수론에 관한 연구였다. 페르마의 마지막 정리는 ‘2보다 큰 정수 n에 대하여 x^n+y^n=z^n을 만족하는 양의 정수 x, y, z는 존재하지 않는다.’라는 것이다. 이 정리에 대하여 페르마는 ‘나는 놀라운 방법으로 이 정리를 증명하였지만, 여백이 부족하여 증명은 생략한다.’라고 <아리스메티카> 여백에 낙서처럼 메모를 남겼다. 페르마의 정리들은 이런 식으로 책의 여백에 대충 적혀져 있는 경우가 많았는데, 대부분 증명은 빠져 있었다. 이후 페르마의 정리들은 모두 증명이 되었고, 마지막으로 남았던 것이 바로 페르마의 마지막 정리 또는 페르마의 대정리였던 것이다.

스위스의 수학자 오일러는 n이 3인 경우와 4인 경우에 대해 증명하는 데 성공했지만 일반적인 증명에는 실패했다. 200년 동안 겨우 몇 가지 경우를 제외하고는 증명에 전혀 진전이 없자 19세기 초 프랑스 과학아카데미는 페르마의 마지막 정리를 푸는 사람에게 3,000프랑의 상금과 메달을 수여하겠다고 했다. 이에 당시 최고의 수학자였던 독일의 가우스에게 사람들이 이 문제에 도전해 볼 것을 권유했지만 그는 이 문제를 풀 수 없는 문제로 단정하고 도전하지 않았다. 재미있는 것은 가우스는 이 정리를 풀 수 없다고 생각했지만 결국 가우스의 복소수에 대한 연구가 풀이의 출발점이 되었다는 것이다.

컴퓨터가 등장하면서 페르마의 마지막 정리가 옳다는 것은 점점 더 명확해졌지만 누구도 모든 자연수에 대해 증명해 내지는 못했다. 모두가 포기하고 영원한 수수께끼로 남을 즈음 페르마의 마지막 정리는 1997년 영국의 수학자 앤드류 와일즈(1953~)에 의해 풀리게 된다. 와일즈는 10살 때 페르마의 마지막 정리를 접하고 이를 풀어야 하겠다는 결심을 했다고 한다. 이렇게 하여 와일즈는 20세기 초 독일의 볼프스켈이 내건 10만 마르크 상금의 주인공이 되었다. 와일즈가 증명할 수 있었던 것은 그의 꾸준한 노력과 천재성도 있었지만 페르마 이후 수학의 많은 발전이 있었기 때문이었다. 이런 이유로 많은 사람들은 정말로 페르마가 마지막 정리를 증명했는지 의심하기도 한다. 페르마의 마지막 정리는 풀렸지만 페르마가 증명했는지는 영원히 미스터리로 남을 것이다.

[글 :최원석 과학칼럼니스트, 칼럼 제공(KISTI)]



1. 이름 : 피에르 드 페르마 (Pierre de Fermat)

2. 출생 : 1601(?) ~ 1665

1601년 8월 17일에 태어나서, 1665년 1월 12일에 카트레(Castres) 또는 툴루즈에서 죽었다고 전해진다.

원래 무덤이 툴루즈의 아우구스티노스 교회에 있는데 나중에 지방 박물관으로 이장된다. 근데 이 무덤에는
사망 날짜와 함께 57세에 죽었다고 기록... 그러면 뭔가 태어난 날짜가 맞질 않아서 보통 페르마의 출생년도는 '?' 로 표시한다.

3. 고향 : 프랑스 서부 보몽드로마뉴 (Beaumont-de-Lomagne)
4. 국적 : 프랑스

5. 직업 : 법률가, 저널리스트, 언어학자, 철학자.
수학자 조사인데도 불구하고 직업에 수학자라고는 적지 않았다.

페르마는 1648년에 툴루즈 지방 의회의 칙선의원이 되는데, 죽을 때까지 이 직책을 유지했다고 한다.
그리고 자신의 일을 하면서, 남는 개인시간에 수학공부를 취미로 했다고 해서. (프로) 수학자로 기록하지는 않는다.

또한 이에 대해서는 대표적인 수학사가인 에릭 템플 벨이, 수학의 역사에 대해서 편찬하면서, 페르마를 '아마추어 수학의 왕자'로 분류한다.

이 호칭이 지금까지도 페르마에게 붙어 다니는 것 같다.

6. 가족

아버지(도미니크 페르마). 번영한 상업가(가죽판매) 출신으로, 보몽 지방의 집정관(지금의 최고 행정가).
어머니(클레르 드 롱). 귀족가문 출신 (의회 법학자 가문의 딸)

7. 일생

1601년 8월 20일에 세례를 받았다고 알려져 있다. 페르마가 태어났을 때 부모는 행정관이 되도록 교육시켰다고 하는데 실제로 페르마는 부모님의 가르침대로 행정관이 되어 일생을 살아가게 된다. 가정에서 교육을 받다가, 지역의 프란체스코 수도원에 가서 초등 교육을 받게 된다.

1629년 후반에는 보르도(Bordeuax-와인으로 요새 유명한.)로 이사를 간다고 하는데, 대학은 툴루즈 대학에 입학한
걸로 봐서, 중간에 다시 이사를 간 것 같다.


어쨌든, 툴루즈 대학에 입학해서 로마법으로 학위를 받은 페르마는 1629년. 고전에 쓰인 정보를 바탕으로 고전을 복원하는 작업에 가담하게 된다. 이 때 파푸스의 <수학집성>에 인용된 내용에서 아폴로니우스의 <평면의 자취>를
복원하는 일을 맡았다고 한다.

30살이 되던 해에는 툴루즈 지방 의회의 의원이 되고, 뒤이어서는 왕의 칙선 의원(king's councilor)이 된다.

많은 사람들이 페르마가, 수학을 취미 수준으로 하면서도 어떻게 그렇게 최고 수준의 수학적 성과를 이룰 수 있는 시간이 있었는지에 대해서 궁금해 하는데. 아마도 페르마의 직업적 위치가, 다른 유력인사들과의 뇌물 및 매수 유혹을 피하기 위해서, 비공식적인 접촉을 피해야 하는 직업이었기에, 주변의 압력을 받지 않고 내부에서 혼자 있는 시간이 많아서 일것이라는 분석이 있다.

1631년에는 오를레앙 대학에서 법률학으로 학위를 받게 되고, 같은 해에 어머니의 사촌인 루이즈 롱과 결혼하게 된다.

(이 루이즈와의 사이에서 페르마는 3남 2녀를 두게 되는데, 이 가운데 클레망 사무엘이 아버지의 업적에 대한 유언 집행자가 되어 유작-책을 출판하게 된다. )

1637년 이전까지는, 완성된 접선과 구적법에 관한 논문에서 많은 새로운 곡선을 해석적으로 정의했다고 한다.

실제로, 페르마의 쌍곡선, 포물선, 나선 등이 유명하게 알려져 있다.

뒤이어 바로 소개하게 될 페르마의 조용한 성격과, 서신왕래로만 연구 성과를 교류하는 행동으로 인해서일까.

도서관의 많은 책들을 찾아 보아도, 이 후로 페르마가 죽기 전까지와, 죽을 당시의 장면에는 기록이 되어 있지 않다.


8. 성격

페르마는 매우 조용하고, 안정적인 삶을 살았다고 한다. 개혁파였던 갈루아나, 종교적으로 많은 활동을 보인 파스칼과는 다른.

그러니까 정말 평범하고 문제없는 삶을 살았다고 한다. 성실하게 자신의 직무에 임했고, 또 직무에도 유능하고 헌신적이었다고 한다. 페르마와 직접적으로 연관되는 건 아니지만, 한 가지 비교해볼만한 부분으로, 데카르트는 수학의 논쟁에서 자주 분개하고 화를 내고 신랄하게 비판하는 편이었다고 한다. 하지만 페르마는 항상 인내심을 가지고 침착하게, 그리고 한결같이 공손하게 상대방을 대했다고 한다.(오일러와 비슷한 성품이신 듯.) 이에 대해서, 아마도 페르마의 직업이 법률가이고, 데카르트는 전 직업이 군인이었던 데 이유가 있다는 분석도 있다.

9. 업적

17세기 프랑스의 가장 위대한 수학자로 불리는 페르마.

특별히. 수론에 있어서는 '역사상 가장 위대한 수론학자'로 인정받는다.

3000개가 넘는 수학논문과 기록을 남겼지만, 공개적으로 발표한 논문은 단 하나.
그것마저도 자신의 이름이 아닌, M.P.E.A.S. 라는 가명(필명)을 사용하여, 발표한다.


의외로 물리학에도 관심이 있었나 보다.
'빛은 어느 매질 속에서든 가장 빠른 길을 택한다'는 '최소시간의 원리'를 발견.

수학 쪽에서는 위에서 언급했듯이, 수학적 업적은 아폴로니오스의 업적을 재편성하는데서 출발하여, 정수론 분야에서 소수(prime number)에 대하여 연구. 그리고 '디오판토스 방정식'의 해법 연구에 공헌함으로써 정수론 발전에 기여한다.

(보통 정수론 계보에서 큰 획을 긋는 수학자로, 디오판토스-피보나치-페르마 를 언급하기도 한다. 또한 좌표기하를 고안하여, 데카르트와 함께 '좌표기하학의 아버지'라고도 불린다.)

1654년에는 어릴적 친구인 파스칼과는 서신왕래를 통하여, 확률론의 기초에 대해서 연구하였다. 점수문제나 상금문제와 관련된 여러 확률 문제들에 대하여 다뤘는데. 이 연구를 토대로 1657년 호이겐스가 확률론에 대한 최초의 공식적인 논문을 쓴다. 그 뒤로 드 무아부르, 다니엘 베르누이, 오일러, 라그랑주, 라플라스 등이 확률론의 분야를 발전시키게 된다.

또한 복소 해석학 측면에서는, 미분법에 대하여 연구하였다고 한다. (뉴턴은 자신이 페르마의 접선 계산법에 기초해서 미분법을 개발했다고 말하였다.)


또한 페르마가 살아있는 동안에 출판 되지는 않았지만, 그의 아들을 통하여 출판된, "평면과 입체의 자취 입문(Isogoge ad locus planos et solidos)"은 해석기하학에 대하여 다루고 있다. 조금 늦게 발표되었다는 이유로, 많은 사람들이 해석기하학을 데카르트의 발명이라고 생각하고 있다. 하지만 근본적으로 똑같은 방법으로 데카르트의 <기하학>이 나타나기 전에 발견했다는 점과, 그의 연구가 1679년에 <수학의 여러연구(Varia opera mathematica)>로 발표되기까지 원고형태로 돌아다녔다는 점은 분명하다. 게다가 페르마의 증명은 데카르트에 비해서 훨씬 체계적이었고, 세로축을 가로축에 대해 수직으로 잡는 등의 방법은 오히려 데카르트에 비해서 현대해석 기하학에 더 가깝다고 한다

"나는 극도로 아름다운 정리를 아주 많이 발견했다." - 페르마