허수의 세계

수의 탄생은 자연수였습니다. 사람들은 필요에 따라 새로운 수들을 하나씩 발명했습니다. 음수, 유리수, 실수. 그리고 그 마지막은 복소수였습니다. 복소수는 실수와 허수라는 두 가지 수의 결합입니다. 다른 새로운 수들의 탄생이 그랬듯 허수 역시 오랜 시간 동안 환영받지 못했습니다. 19세기의 수학자 루이스 캐럴은 매우 창의적인 방법으로 허수를 조롱했습니다. 웃음만 남겨두고 사라져버리는 체셔고양이를 통해서죠. 그것은 결과만 남겨두고 사라져버리는 수, 허수를 풍자한 것입니다. 이 이상하고도 야릇한 수는 대체 어떤 필요에 의해 탄생한 것일까요?
허수는 존재와 비존재의 사이에 있는 양서류와 같은 것이며, 성스러운 영혼의 놀랍도록 훌륭한 피난처이다.-고트프리트 빌헬름 라이프니츠-
허수의 발견자 카르다노
3차방정식의 일반해 풀잇법을 알고 있던 16세기 이탈리아 수학자 카르다노는 해를 구하는 과정에서 이상한 수를 발견합니다. 일반적으로 음수든 양수든 제곱하면 무조건 양수가 나옵니다. 그것은 수학의 규칙입니다. 그러나 3차 방정식의 일반해 공식에는 제곱하여 음수가 나오는 수가 있었습니다. 카르다노는 어떻게든 이 수를 무시하기위해 노력했습니다. 그는 이 수에 대해 “궤변론적이다”, “쓸모없을 뿐만 아니라 이해하기 어렵다”고 했죠.
이러한 수는 3차 방정식뿐만 아니라 2차 방정식에서도 발견됩니다. 카르다노의 저서 [위대한 술법 Arsmagna]에는 “두 수의 합이 10, 곱이 40이 되게 하라.”는 문제가 실려 있습니다.


카르다노의 [위대한 술법] 37장 음수를 다루는 방법 中
이 문제는 다음과 같은 식으로 나타낼 수 있습니다.

위의 식을 2차 방정식의 근의 공식에 적용해보면 x의 값은
가 됩니다.
의 의미는 제곱하여 -15가 되는 수입니다. 물론 카르다노의 입장에서 이 숫자들은 의미 없는 것이었습니다. 평범한 수학자라면 생각할 것도 없이 무시해버렸겠지만 카르다노는 숫자들을 일단 계산해봅니다. x의 값인 , 
를 가지고 검산을 해본 것이죠. 놀랍게도 이 숫자들은 문제의 조건에 들어맞았습니다.
허수의 역사에서 카르다노는 허수의 발견자로 꼽히고는 합니다. 2차 방정식에서도 허수를 발견할 수 있는데 왜 카르다노를 허수의 발견자로 부르는 것일까요? 과거의 수학자들은 음수 근을 방정식의 답으로 인정하지 않았습니다. ‘방정식의 차수=근의 개수’라는 대수학의 기본정리는 1797년에야 가우스에 의해 증명됐죠. 당시 수학자들에게
라는 식을 보여준다면 ‘근이 없다’고 답할 것입니다. 제곱하여 음수가 되는 수에 대해서는 진지하게 생각할 필요도 없었습니다. 그러나 3차 방정식에서는 이야기가 조금 달라집니다.
카르다노는 3차 방정식의 풀이 중 루트 안의 음수, 즉 허수를 잘 다루면 결과적으로 실수근이 나오기도 한다는 것을 알게 됩니다. 3차 방정식의 근의 공식을 모르던 수학자들은 3차 방정식을 구하기 위해 ‘근사’라는 방법을 사용했습니다. 이 방법은 복잡하기도 했지만 부정확했죠. 그러나 카르다노는 허수를 수처럼 생각한다는 불편함만 감수하면 3차 방정식의 근의 공식을 통해 쉽게 실수근을 찾아 낼 수 있었습니다. 그는 실용주의자였던 것 같습니다. 카르다노는 허수를 쓸모없는 수라고 했지만 결국 양의 실수 근을 찾아내기 위해 허수를 사용합니다.
평면 위의 허수
허수를 기하학적으로 나타내는 방법
허수가 탄생하기 전, 수들은 모두 수직선 위에 자리 잡고 있었습니다. 수직선 위에는 허수를 위한 자리가 마련되어있지 않았죠. 이것은 수학자들이 허수를 거부했던 가장 큰 이유이기도 했습니다. 대수학의 급속한 발전, 음수의 인정과 함께 수는 기하에서 벗어났지만 그래도 수에는 기하학적 전통이 남아있었습니다. 허수는 세상의 어떤 것을 나타내기 위해 태어난 수일까요? 허수는 물리적으로 어떤 의미가 있을까요?
누구도 이에 쉽게 답하지 못했습니다. 그래서 데카르트는 이 수에 ‘상상의(imaginary)’ 수, 즉 ‘허수’라는 이름을 붙여주었죠. 15세기 중반, 이 문제에 그럴듯한 답을 내놓은 수학자가 등장합니다. 영국의 수학자 존 월리스(JhonWallis, 1673-1703)입니다.
복소수는 실수부와 허수부의 결합으로 표현됩니다.

월리스는 허수에 대한 기하하적인 표현은 평면에서 수직 방향의 움직임이라는 개념을 생각해냅니다. 그동안 수는 수평으로 뉘인 수직선 위에 표시되어 왔습니다. 수직 방향에 수를 표시한다는 것은 놀라운 사고의 전환이었죠. 그러나 그는 이것을 직접 언급하지는 않았습니다.
이를 알기 쉽게 표현한 최초의 사람은 덴마크의 한 측량기사입니다. 베셀(CasperWessel, 1745-1818)은 수직선 두 개를 이용해 간단히 복소수를 표현합니다. 수평으로 놓인 수직선으로는 실수를, 직각으로 놓인 수직선으로는 허수를 나타내는 것이죠.

1+4i를 복소평면으로 나타내는 방법
베셀은 매우 유능했으며, 존경받는 측량 기사였습니다. 지도를 제작하면서 부딪쳤던 갖가지 문제를 해결하다 이와 같은 아이디어를 떠올리게 되었죠. 그는 자신의 아이디어를 논문으로 작성해 1797년 덴마크 왕립 과학원에 남겨놓았습니다. 베셀의 논문은 훌륭했지만 문제는 그 논문이 덴마크어로 작성되어 있다는 데 있었습니다. 그의 논문은 거의 읽히지 않다가 한 세기가 지난 1895년에야 다시 발굴되었습니다.
비슷한 시기, 베셀과 비슷한 아이디어를 생각해낸 또 한명의 수학자가 있습니다. 프랑스의 수학자 아르강(Jean-RobertArgand)입니다. 저명한 수학자는 아니었죠. 그는 가족과 친구들에게만 전달할 목적으로 [허수의 기하학적 해석 소론]이라는 소책자를 인쇄하는데 여기에는 베셀과 거의 흡사한 아이디어가 기록되어 있었습니다. 이 책은 프랑스의 뛰어난 수학자인 르장드르에게도 전달되는데, 아르강의 아이디어는 우여곡절을 거쳐 [수학연감]1813년 호에 발표되죠. 다행히 그의 아이디어는 수학자들에게 관심을 불러일으켰습니다.
이러한 기하학적 해석은 독일 괴팅겐의 거인이자 수학의 왕이었던 가우스에게 인정받으면서 널리 퍼지게 됩니다. 복소수를 나타내는 두 개의 수직선은 ‘가우스 평면’ 또는 ‘복소평면’이라는 이름으로 불리게 됩니다. 베셀 평면이나 아르강 평면이 아니라 가우스 평면이 좀 더 대중적이 명칭이 된 까닭은 허수에 관한 가우스의 또 다른 업적 때문입니다.
카를 프리드리히 가우스(1777-1855)
가우스는 허수를 이용하면 방정식의 해에 관한 일관된 규칙을 만들 수 있다는 사실을 발견합니다. 논리법칙에 따라 도출된 결과이며 수학의 단순성과 우아함을 유지시켜 주는 주장이라면 수학의 세계에서 중요한 개념으로 자리 잡기 마련입니다. 그 중 하나가 가우스가 증명한 ‘대수학의 기본정리’입니다.

위의 정리가 일반적으로 성립하기 위해서는 반드시 복소수가 필요하죠. 가우스의 기여로 수학의 ‘복소수화’는 점차 속도를 붙여갑니다.
물리학 속 허수
허수를 인정하자는 수학자의 수가 점점 늘어갔지만, 수학 이외의 분야에서는 허수의 필요성을 느끼지 못했습니다. 20세기에 들어서자 허수를 필요로 하는 물리 이론, 양자역학이 등장했고, 허수는 차츰 그 위상을 드러냅니다.
20세기 이후의 물리학은 양자역학의 토대 위에서 다시 세워졌다고 해도 과언이 아닙니다. 양자역학의 세계에는 뉴턴의 역학으로는 설명할 수 없는 특별한 움직임이 존재했습니다. 관측 가능한 세계는 실수로 설명할 수 있습니다. 그러나 양자의 세계는 그렇지 않았죠. 관측이 불가능한 세계는 도대체 어떻게 설명해야 할까요?
슈뢰딩거(ErwinSchrodinger, 1887-1961)는 그 답을 찾았습니다. 양자 역학의 기초를 이루는 방정식인 슈뢰딩거의 방정식에는 허수가 등장합니다. 방정식의 답 역시 복소수죠. 슈뢰딩거는 허수를 이용해 관측 불가능한 세계를 그럴듯하게 설명할 수 있었습니다.
허수는 현대의 우주론에서 자주 사용되는 수이기도 합니다. 스티븐 호킹은 그의 저서 [시간의 역사]에서 허수 시간 가설에 대해서 언급합니다. 그의 설명에 따르면 우주가 태어나기 전에는 허수의 시간이 흐르다가 우주탄생과 함께 실수의 시간이 시작됩니다. 스티븐 호킹이 우주의 기원 설명에 허수를 사용한 이유는 가우스와 비슷합니다. 가우스가 허수를 이용하여 대수학의 기본정리를 완성할 수 있었듯, 허수를 이용하면 일반 상대성 이론 안에서 우주의 기원을 설명할 수 있었던 것입니다.
이처럼 때때로 허수는 매우 어려워 보이는 문제를 비교적 간단하게 해결하게 해줍니다. 파동계산을 해야 하는 전기공학과 전자공학도 그 대표적인 수해자이죠. 사실 현대의 많은 문명기술이 허수에 기대고 있습니다. 허수가 없었다면 휴대전화나 인터넷과 같은 통신기술도 없었을 것입니다. 허수는 20세기에 들어와서야 인정받게 되었지만 이제는 우리의 상상을 실현하는데 없어서는 안 될 소중한 수가 되었습니다.