[puzzlist님의 홈페이지] 페르마의 마지막 정리

[폭풍속으로]

I. 페르마의 마지막 정리(Fermat's Last Theorem)란 무엇인가?

바셰(Bachet de Meziriac)가 번역한 디오판투스(Diophantus)의 "산술" 제 2 권의 여백에 페르마가 써 둔 다음의 주장을 말한다.

세제곱수를 두 개의 세제곱수의 합으로, 또는 네제곱수를 두 개의 네제곱수의 합으로, 또는 일반적으로 2보다 큰 임의의 거듭제곱수를 같은 차수의 두 거듭제곱수의 합으로 나타내는 것은 불가능하다. 나는 실로 놀랄만한 증명을 발견하였지만, 증명을 쓰기에는 이 여백이 너무 좁다.

그가 죽은 뒤, 아들 클레망 사뮈엘(Clement-Samuel)이 유고를 펴 내면서 비로소 세상에 알려진 이 문제는, 최근까지 가장 유명한 수학의 미해결 문제로 악명을 떨쳤다.

페르마의 마지막 정리(이하 FLT)를 현대적인 표현으로 쓰면 다음과 같다.

n이 2보다 큰 자연수일 때, 다음 방정식은 양의 정수해를 갖지 않는다.

xⁿ + yⁿ = zⁿ

만약 이 방정식이 양의 정수해를 갖고 n = ap로 쓸 수 있다면,

(x^a)^p + (y^a)^p = (z^a)^p

이므로, 결국 n = 4일 때와 n이 솟수일 때 양의 정수해가 없음을 보이면 충분하다.

II. 페르마는 어떤 사람인가?

피에르 드 페르마(Pierre de Fermat)는 1601년 프랑스의 보몽 드 로마뉴에서 피혁상인의 아들로 태어났으며, 서른 살 때(1631년) 툴루즈(Toulouse)에서 청원의원이 되고, 1648년 툴루즈 지방의원이 되어 죽을 때까지 그 직책을 맡았다.

그는 순수한 아마추어 수학자라 할 수 있지만, 그의 수학적 업적은 동시대의 위대한 수학자들에게 결코 처지지 않았다.

실제로 그는 데카르트와 독립적으로 해석 기하를 만들었고, 파스칼과의 서신 왕래를 통해 확률론의 기초를 세웠으며, 뉴튼(Newton), 라이프니쯔(Leibniz)에 앞서 미적분학의 기초를 닦았다.

III. 페르마의 정리는 증명되었는가?

1993년 여름, 프린스턴 대학의 앤드루 와일즈(Andrew Wiles) 교수가 증명을 발표하였으나, 그 해 10월, Inventiones Mathematicae의 논문 심사위원이 논리의 비약을 발견하였다.

결함을 메꾸지 못한 와일즈는, 실수를 인정하는 글을 인터넷에 올려놓고 은둔 상태에 들어가, 결국 다음 해인 1994년 10월, 제자였던, 케임브리지 대학의 리차드 테일러(Richard Taylor) 교수와 함께 문제의 결함을 피한 새로운 증명을 발표했다 (결함을 메웠다기보다 피해 갔다는 것이 더 적절할 것이다).

이 증명은, 와일즈의 논문 Modular Elliptic Curve and Fermat's Last Theorem (132p)과 두 사람의 공동 논문 Ring Theoretic Properties of Certain Hecke Algebra (17p)로 되어 있으며, 두 논문의 프리프린트(preprint, 학술지에 실리기 전에 임시로 돌려 보는 것)만, 합쳐서 약 150 쪽에 이른다.

이 논문은 검증을 마치고 1995년 Annals of Mathematics에 실렸다.

IV. 어떤 고등학생이 행렬을 써서 증명했다는데?

행렬을 써서 FLT를 증명했다는 조선일보의 기사는 완전히 엉터리다.

뉴욕 타임즈(New York Times)에 실린 원래의 기사에 따르면, 알렉산더 카자노프(Alexander Kazanoff)라는 소년이 한 것은, 행렬에 대해서도 FLT 비슷한 것을 생각할 수 있는지 하는 문제였다. 그가 쓴 논문은 행렬판 FLT에 대한 반례를 만들 수 있음을 보인 것으로, 원래의 FLT와는 아무런 상관이 없을 뿐더러, "행렬에서는 FLT가 성립하지 않는다"는 것이므로 조선일보는 NYT의 기사를 오역하여 정반대의 엉뚱한 기사를 실은 셈이다.

그러나 이 "명백한 오보"에 대해 조선일보가 아무런 정정 기사도 싣지 않았기 때문에 아직까지 그 소년이 실제로 FLT를 증명한 줄로 아는 사람이 적지 않다.

V. 페르마는 과연 증명에 성공했는가?

페르마가 아무런 증거도 남겨 두지 않았으므로 진실을 알 수는 없다.

다만, 그 이후로 있어 온 이 문제에 대한 수많은 도전과 실패의 역사를 볼 때, 아마도 페르마가 n=3에 대한 오일러의 아이디어에서 다소 성급한 결론(?)을 내린 것이 아닌가 하는 게 일반적인 추측이다.

실제로, 이 문제는 그가 공부한 책의 여백에 적혀 있을 뿐이며, 그가 이 기록을 출판하려는 생각이 전혀 없었으므로, 그가 착각을 했다가 곧 잘못을 깨달았지만 그 글을 고칠 필요를 느끼지 못했다고 해도 이상할 것이 없다.

그리고 와일즈의 증명은 현대 수학의 온갖 첨단 결과를 아우른 것이므로 페르마가 발견하였다는 "놀라운 증명"이 이것일 리도 없다.

VI. n=4일 때의 증명

실제로 페르마가 남긴 것은, n=4일 때를 푼 것이 아니라, 다음 정리를 증명한 것이다.

세 변의 길이가 정수인 직각 삼각형(피타고라스 삼각형)의 넓이는 제곱수가 될 수 없다.

이 정리에서 n=4일 때의 증명이 나온다. 만약 x⁴ + y⁴ = z⁴을 만족하는 양의 정수해가 존재한다면,

a = y⁴ , b = 2 x² z² , c = z⁴ + x⁴

로 둘 때,

a² + b² = c² , 1/2 ab = (y² xz)²

이 되어, 위의 정리에 모순이 된다. 따라서, n이 4의 배수인 모든 경우에 양의 정수해가 없음이 증명된다.

피타고라스 삼각형에 대한 위 정리 증명의 개요는 다음과 같다.

먼저 결론을 부정하여, 넓이가 제곱수인 피타고라스 삼각형이 존재하여, 빗변의 길이가 z라 하자.

적당한 논증에 따라, 역시 넓이가 제곱수인 피타고라스 삼각형을 유도하여, 빗변의 길이 Z가 처음의 z보다 작게 할 수 있다. (이것은 대학 1학년 정도에게 알맞은 문제이다.)

이 과정을 반복하면, 빗변의 길이들로, 무한히 작아지는 수열을 만들 수 있는데, 이것은 각 변의 길이가 양의 정수라는 데 모순이 된다.

이렇게 무한히 감소하는 수열을 찾아 모순을 보이는 교묘한 방법을, 페르마의 무한 강하법(method of infinite descent)이라 한다.

VII. FLT의 수학사

n = 3일 때를 푼 것은 레온하르트 오일러(Leonhard Euler)였다.

그가 접근한 방법은 기본적으로 페르마의 무한 강하법과 같았는데, 일반적인 정수 대신 a + b√-3 꼴의 수(a, b는 정수)를 사용했다.

그의 논증은 매우 교묘했지만, 결정적인 문제는 그가 사용한 수들이 유일하게 소인수분해된다고 가정한 점이었다. 오일러의 경우는 대단히 운이 좋아 그 가정이 참이지만, 그 사실을 직접 증명하지는 못했다.

예를 들어, a+b√-5 꼴의 수에서,

6 = 2 x 3 = ( 1 + √-5 ) x ( 1 - √-5 )

의 두 가지 꼴로 소인수분해 되므로, 오일러의 가정이 항상 참은 아니다. ("소인수"가 무엇인가 하는 것은 생략하자.)

이후로, n = 5인 경우가 1825년 디리클레(Peter Gustav Lejeune Dirichlet)와 르장드르(Adrien-Marie Legendre)에 의해, n = 14인 경우가 1832년 역시 디리클레에 의해, 그리고 n = 7인 경우가 1839년 라메(Gabriel Lame)에 의해 증명되었다.

1847년, 라메는 파리 과학원 강연에서 FLT를 증명하기 위해 원분 정수를 사용할 것을 제안했다. 원분 정수란, r^p = 1을 만족하는, 1이 아닌 복소수 r에 대해, r의 거듭제곱과 정수들의 합과 곱으로 나타낼 수 있는 복소수를 말하는 것으로, 원분 정수를 사용한다면,

x^p + y^p = ( x + y ) ( x + y r ) ( x + y r² )...( x + y r^p-1 )

처럼 일차식으로 완전히 인수분해할 수 있고, 따라서 (라메의 주장에 따르면) 페르마의 무한 강하법을 간단하게 적용할 수 있다.

그러나, 리우빌(Joseph Liouville)은, 라메의 주장이 원분 정수가 유일하게 인수 분해된다는 증명되지 않은 가정에 기초하고 있다는 허점을 지적했고, 실제로 이 가정이 잘못임이 디리클레의 제자인 쿠머(Ernst Eduard Kummer)에 의해 밝혀졌다.

쿠머는, 1844년의 논문에서 원분 정수에 대해 유일 인수 분해가 일반적으로 성립하지 않음을 증명하고, 원분 정수를 약간 변형한 이상수(ideal number)를 만들어 냈다. 이에 따라, 쿠머는 37, 59, 67을 제외한 100보다 작은 모든 솟수에 대해 FLT를 증명하는 데 성공했으며, 얼마 후에는 남은 세 솟수를 포함하는 증명을 발표했다. (이 세 솟수를 비정규 솟수(irregular prime)라 한다.)

쿠머의 업적은 FLT에 대한 그 이전 시대의 모든 결과를 뛰어 넘는 위대한 것이었으므로, 프랑스 아카데미는 그의 업적을 기려, FLT를 증명하는 사람에게 주기로 했던 상금을 그에게 수여했다.

그 이후, 여러 가지 방법으로 FLT에 대한 접근이 이루어졌다.

쿠머의 방법을 발전시켜, 1976년에 와그스태프(Sam Wagstaff)는 12 5000까지의 모든 솟수에 대해 FLT를 증명했고, 1992년에는 불러(Joe Buhler), 크랜들(Richard Crandall) 등이 400 0000 이하의 모든 솟수에 대해 FLT를 증명했다.

한편, 쿠머의 방법과는 달리, 솟수 p에 대해, p가 xyz를 나누어 떨어뜨리지 않으면서,

x^p + y^p = z^p

인 해를 갖지 않는 경우에 대한 연구가 있었다. (이것을 첫번째 작은 경우라 한다.)

이 방법의 선구자는 프랑스의 유명한 여류 수학자 소피 제르맹 (Sophie Germain)으로, 그 이후로 많은 수학자들이 첫번째 작은 경우가 성립하는 조건을 연구하였다.

VIII. 와일즈에 이르기까지

영국의 수학자 모델(Lewis Mordell)이 다음과 같은 예상을 했다.

유리수 계수를 갖는 다항식의 해집합으로 주어진 곡선의 종수(genus)가 2보다 크거나 같다면, 이 방정식은 기껏해야 유한개의 유리수 근을 갖는다.

이 예상은, 1983년, 독일의 팔팅스(Gerd Faltings)가 증명했는데, FLT의 경우,

xⁿ + yⁿ = 1

이란 곡선의 유리수점을 구하는 문제가 되고, 이때 그 종수는

g = (n-1) (n-2)/2

로 주어지므로, 팔팅스의 결과로부터, FLT가 각 지수에 대해, 기껏해야 유한개의 반례만 있음을 알 수 있다. (팔팅스는 이 업적으로 필즈상 (Fields medal)을 받았으며, 그는 또한 와일즈의 증명을 확인해 준 최초의 인물이기도 하다.)

한편, 프라이(Gerhard Frey)는 1985년에, FLT의 반례를 써서, 타니야마-베유-시무라(Taniyama-Weil-Shimura)의 예상을 부정하는 예를 만드는 아이디어를 제시했다.

타니야마-베유-시무라의 예상(이하 TWS 예상)은

모든 타원 곡선(elliptic curve)은 모듈라(modular)이다

라는 것으로, 프라이는 만약 aⁿ + bⁿ = cⁿ 이라면, 타원 곡선

y² = x ( x - aⁿ) ( x + bⁿ)

이 모듈라가 아니라는 예상을 했고, 이 주장의 핵심적인 부분인 세르(Jean-Pierre Serre)의 예상을 리벳(Kenneth Ribet)이 증명하여, 프라이의 주장대로 TWS 예상이 참이면 FLT 또한 참임이 밝혀졌다.

그런데, 리벳의 결과에 따르면 일반적인 TWS 예상을 증명할 필요없이 반안정(semistable) 타원 곡선에 대해서만 모듈라임을 증명하면 충분하다. 실제로 와일즈가 증명한 것도 반안정 타원 곡선은 모듈라라는 것이었다. (와일즈의 증명을 개요나마 소개하는 것이 마땅하겠으나 너무나 어려운 얘기이므로 생략한다.)

* 참고

타원 곡선이란 식 y² = x³ + ax² + bx + c 로 주어진 곡선으로 타원(ellipse)과는 전혀 다른 것이다.

IX. 와일즈는 필즈상(Fields medal)을 받았나?

와일즈가 올바른 증명을 내놓은 1994년이 마침 국제 수학자 회의에서 4년마다 필즈상을 주는 해였다. 그러나 와일즈가 증명에 성공하기 전에 이미 필즈상이 수여되었으므로, 그 해에 필즈상을 받을 수는 없었다.

한편 필즈상은 40 세 이하에게 주는 것이 관례로 되어 있는데, 1953년생인 와일즈는 (잘못된) 첫 증명을 발표한 1993년에 이미 마흔이었기 때문에 FLT의 증명으로 필즈상을 받을 수는 없지만, 그 대신 1998년에 국제 수학자 회의는 와일즈에게 특별상을 주었다.

X. FLT를 증명하는 사람에게 주는 상이 있다던데?

1908년에 독일 부호 볼프스켈(Wolfskell)이 정한 상이 있다. 처음에는 당시 돈으로 10 0000 마르크의 상금이었지만, 1,2차 대전 전후의 극심한 인플레로 인해 지금은 약 7 5000 마르크 정도의 가치가 있다. 와일즈는 97년에 이 상을 받았다.

XI. FLT의 수학사적 의의

오일러의 증명에서 쓰인 새로운 형태의 수들을 일종의 정수(integer)로 생각할 수 있으며, 이것을 대수적 정수(algebraic integer)라고 부른다.

이런 대수적 정수의 성질을 연구하는 분야가 대수적 정수론(algebraic number theory)이다.

한편, 쿠머가 도입한 이상수의 개념은 그의 스승인 디리클레에 의해 현대 대수학에서 대단히 중요한 개념인 이데알(ideal)로 발전하였다.

* 원본 글이 있는 곳입니다.
puzzlist(박부성)님의 홈페이지에 있는 원본 글입니다.

http://puzzle.jmath.net/math/essay/flt1.html