인류 사상 최대의 수학 난제 ＜리만 가설＞

인류 사상 최대의 수학 난제인 리만 가설에 대한 도전!

150년전 독일의 천재 수학자 리만이 세운 '리만 가설'은 수학의 수많은 난제들 중에서도 가장 어렵고 가장 중요하다. 현대 수학자들의 궁극의 목표는 '소수(素數, Prime Numbers)'의 배열에 숨겨진 의미를 찾아내 해독하는 것이다. 리만 가설은 소수의 불규칙한 배열 속에 숨은 의미를 밝힐 수 있는 가장 중요한 열쇠다. 리만 가설의 증명은 곧 새로운 시대가 시작되는 것을 의미하며, 인류 지성을 최고점에 도달할 수 있게 해 줄 것이다.

레온하르트 오일러

그는 소수와 우주 사이에 중요한 관계가 있다는 직감을 갖고 있었다. 소수만을 이용한 식을 통해 무질서한 소수의 집합이 원과 관련이 있다는 걸 밝혀냈다.

<소수만을 사용한 오일러의 식>

베른하르트 리만의 가설

약 100년 뒤, 리만은 소수의 오일러의 식을 응용한 제타함수를 고안한다.

<리만의 제타함수>

제타함수를 그래프로 나타내면,

그래프의 높이가 0인 제로점이 존재한다.

소수 배열이 불규칙하기에 제로점 역시 아래와 같이 불규칙할 것이라는 당초의 예상. 그러나,

리만이 찾아낸 4개의 제로점은 예상을 뒤집고 정확히 일직선상에 놓여있었다.

이것이 리만 가설(1859년).

제타함수의 비자명적인 제로점은 모두 일직선상에 있다.

리만 가설은 소수의 배열에 의미가 있다는 것에 대한 수학적인 입증이 될 수 있다.
"소수의 배열에 의미가 있는가?" 라는 그때까지 막연했던 물음을 "모든 제로점은 일직선상에 있는가?" 라는 수학의 문제로 바꾼 것이다. 이후 소수를 연구하는 수학자들은 리만 가설의 입증에 집중한다.
아직 발견되지 않은 다른 모든 제로점 역시 일직선상에 있다면, 소수에 이상적이고 완벽한 조화가 있다는 것을 의미하기 때문이다.

리만 가설, 그 후...

리만 가설을 증명하려는 시도는 종종 정신병을 초래했다.
20c 초 영국에서 그 첫 시도가 있었다. 뛰어난 수학자였던 고드프리 하디와 존 리틀우드가 리만 가설을 증명하려 했다. 1914년에 발표한 논문에서 일직선상에 무한한 제로점이 존재한다는 것을 보여줬지만, 이는 리만 가설의 증명과는 거리가 있었다. 직선 외에 제로점이 있을 가능성을 없애지 못했기 때문이다. 결국, 두 사람은 리만 가설 자체에 대해 의문을 제기하며 좌절한다.

1950년대 천재로 칭송받던 수학자 존 내쉬(영화 뷰티풀 마인드 실제 주인공) 역시 증명에 실패하고 정신이상을 경험한다. 그 시기부터 리만 가설은 수학자의 경력을 무너뜨리는 난제로 두려움의 대상이 된다. "소수의 비밀을 밝히는 것은 신의 분노를 사는게 아닌가"란 말까지 나돌며 수학계 전체가 리만 가설을 멀리하기 시작한다.

루이 드 브랑주

당시 수학계 분위기와 달리 1960년대부터 소수를 연구해온 프랑스의 수학자.
일찍이 소수가 원자와 소립자 등 미세한 세계와 관련이 있다고 보고 있었다. 리만 가설은 미세한 공간과 이어져 있다는 것이다. 이는 프리즘의 무수한 빛과 리만의 제로점과의 관계에 비유할 수 있다.

<프리즘의 빛과 제로점의 관계>

그 역시 리만 가설에 관해서는 몇 번의 실패를 겪고 수학계로부터 고립됐지만, 우주의 진리에 가까워지기 위해서는 리만 가설을 풀어내야만 한다는 신념을 갖고 있다.

수학과 원자학의 만남

1972년 프린스턴 대학에서 수학자 휴 몽고메리와 물리학자 프리먼 다이슨의 우연한 만남으로 리만 가설 연구는 전환점을 맞는다.

몽고메리는 불규칙한 소수의 배열과는 다르게 제로점이 비교적 균등하게 배열된 것에 주목했다. 한편 다이슨은 소립자 등 미세한 세계를 연구하던 물리학의 대가였다. 원자핵의 에너지는 어떤 영향에 따라 불규칙하게 변하고, 그 에너지의 간격 역시 매우 불규칙하다는 것을 알고 있었다. 그 둘은 리만 가설의 제로점 간격의 수식과 원자학의 에너지 레벨 간격의 수식이 동일한 것을 발견했다.

<제로점 간격 수식과 원자핵 에너지 레벨 간격 수식>

리만 가설이 미세한 세계와 관련되어 있다는 발견은 그 동안 리만 가설을 피해오던 수학자들의 태도를 바꿨다. 1996년 시애틀에서는 분야를 넘어 수학자와 물리학자 200여명이 참여하는 대회의가 열리기도 했다.

비가환기하학과 소수

필즈상을 수상한 수학자 알랭 콘느는 미세한 공간을 이해하기 위한 최신의 분야인 비가환기하학을 연구하고 있었다. 우리가 살고 있는 공간이 사실은 불연속으로 작은 이음매가 존재하고 있다는 걸 말해주는 분야로, 대우주의 성립에서 미세한 세계까지 모든 현상을 설명하는 궁극의 물리법칙의 기초로써 주목 받았다.

콘느 박사는 1996년의 회의에서 비가환기하학이 소수와 깊은 관련이 있다는 사실을 알게됐다. 이후 콘느박사를 비롯하여 많은 수학자들이 비가환기하학을 이용해 소수의 비밀을 풀려는 논문을 발표해오고 있다.

※ 소수(素數, Prime Numbers)

소수는 대우주가 따르는 자연법칙과 관련된 창조주의 암호, 설계도라고 생각하는 사람도 있다. 모든 숫자는 소수의 곱으로 나타낼 수 있으며, 더이상 분해될 수 없기에 '수의 원자(原子)'라고도 불린다.

사실 소수의 비밀이 풀리지 않은 덕분에 우리의 생활이 지켜지고 있다.
소수는 신용카드 등의 전자거래를 안전하게 하기 위해 매우 중요하다. 현대 통신의 안전성은 극히 일부만 알고 있는 거대한 소수를 사용한 암호에 의해 보호되고 있다. 슈퍼컴퓨터를 사용해도 찾기 힘든 150자리가 넘는 거대한 소수를 이용한다. 물론, 국가의 기밀정보와 군사정보의 암호로도 사용된다. 그렇기 때문에 만약 소수의 비밀이 밝혀져 거대 소수의 리스트가 공개되면 큰 혼란이 올 수도 있다.