복소수, 허수

[귀뚜라미]

실수는 기본적으로 크기 나타내는 수이므로 직관적으로 이해하기가 어렵지 않지만, 제곱하여 -1이 되는 수로 만들어지는 허수는 도무지 이해하기가 어렵다. 이름부터 “가짜 수”인 허수는 왜 만든 것일까?

실수에서 복소수까지

자연수부터 실수까지는 구체적인 대상을 관찰하여 추상적으로 정리하고 구성한 대상이라 할 수 있다. 즉, 개수를 세는 것으로부터 자연수 개념이 나오고, 비율을 구하는 것으로부터 유리수 개념이 나오고, 길이를 재는 것으로부터 실수 개념이 나왔다고 할 수 있다. 여기에 상대적인 방향성을 부여하면 음수를 생각할 수 있다.

그러나 허수, 더 일반적으로 복소수는 이런 식으로 구체적인 무언가를 관찰하여 만들어지는 것이 아니라, 방정식의 풀이라는 전혀 다른 관점에서 만들어졌다. 이런 이유로, 실수에 대한 인식이 거의 선험적인 데 비해, 허수는 19세기에 와서야 수로서 다루어질 정도로 대단히 생소한 개념이었다.

카르다노의 관찰

어떤 실수도 제곱하면 0보다 크거나 같은 수가 되므로, 제곱하여 -1이 되는 수라는 것은 애초에 생각하기 힘든 개념이었다. ‘그런 수는 존재하지 않는다’라는 답변이면 충분하기 때문이다. 그런데 16세기를 대표하는 탁월한 수학자들 가운데 한 명인 카르다노(Girolamo Cardano, 1501-1576)는 삼차방정식의 근의 공식을 연구하던 중에 기묘한 현상을 발견하게 된다. 지금은 삼차방정식의 공식이 하나의 과정으로 일관되게 표현되지만, 허수는커녕 음수조차 수로 취급하지 않던 당시에는, 일일이 경우를 나누어 중간 과정에서 이상한 수가 나타나지 않도록 공식을 따로 만들어야 했다. 이 모든 경우를 완전하게 분류하고 각각에 대해 최종적인 결과를 얻는 데 성공한 사람이 바로 카르다노였다. 그렇다면 주어진 삼차방정식에, 해당되지 않는 공식을 억지로 적용하면 어떻게 될까? 당연히 이상한 수, 특히 음수의 제곱근이라는 당시로서는 전혀 이해할 수 없는 수가 나타날 테고, 보통의 경우라면 ‘공식을 잘못 적용하였다’고 하면 되겠지만, 상상력이 풍부했던 카르다노는 이상한 수도 억지로 계산을 하면 실수인 근을 구할 수 있다는 사실을 관찰하였다. 이것이 음수의 제곱근을 실제로 계산한 최초의 일이었다. 그렇다고 해서 카르다노가 여기서 더 나아가 복소수의 개념을 발견하거나 한 것은 아니었다. 그가 아무리 뛰어난 수학자였다고 해도, 당시는 16세기였으니 말이다. 이후 봄벨리(Rafael Bombelli, 1526?-1572)는 음수의 제곱근을 다루는 규칙을 생각하여, 허수가 무엇인지는 몰라도 어쨌든 형식적으로 다룰 수는 있음을 보였다. 그러니까, 상식적으로는 말이 안 되지만, 이상하게도 결과는 말이 되는 상황이었다.

16세기의 대표적 수학자 카르다노(Girolamo Cardano, 1501-1576) 이탈리아 사람으로, 수학, 물리학, 의학, 철학 등 다방면의 업적을 남겼다.

허수라는 이름

17세기 수학의 중요한 성과라 할 수 있는 좌표평면은 데카르트(Rene Descartes, 1596-1650)가 창안하였다. 그때까지 수로 취급되지 않던 음수를 수직선을 이용하여 나타냄으로써 음수가 눈에 보이도록 한 것도 데카르트이며, 음수에 대한 연산을 자유롭게 할 수 있다는 것을 보인 것도 데카르트였다. 그러나 수직선 위에 나타낼 수 없는 음수의 제곱근은 데카르트에게도 이상한 수였다. 이런 이유로 데카르트는 음수의 제곱근에 ‘허수(虛數, nombre imaginaire)’라는 이름을 붙였다. ‘가공의 수’라는 뜻이다. 그러나 이 이름은, 억지로 만들어 낸 비정상적인 ‘가짜 수’라는 인상을 주기 때문에 좋은 작명이라 하기가 어렵다. 따지고 보면 모든 수는 상상의 산물이지 구체적으로 존재하는 그 무엇은 아니지 않은가. 예를 들어, 수 2는 어디에 ‘실제로’ 존재할까? 아마존 밀림 깊숙한 곳에? 머나먼 안드로메다에? 수의 존재성이라는 관점에서 생각하면, ‘허수는 존재하지 않는 수’라는 말은 전혀 의미가 없다고 할 수 있다.

음수의 제곱근 i, i는 imaginaire(imaginary)의 첫 자를 딴 것이다.

허수와 실수를 아울러 일컫는 이름인 복소수(複素數, complex number)는 제곱하면 0보다 커지는 실수 부분과 제곱하면 0보다 작아지는 (순)허수 부분의 두 요소로 이루어져 있다는 뜻이다. 복소수를 나타낼 때는 이 두 요소를 합쳐서 ‘+’로 연결하여 나타낸다. 제곱하여 0보다 작아지려면, 제곱하여 -1이 되는 수가 필요하다. 이것을 i로 나타내면, 임의의 복소수는 적당한 두 실수 a와 b에 대하여 a+bi 꼴로 나타낼 수 있다. 생각해 보면, 여기에 굳이 ‘+’를 써야만 하는 것은 아니다. 오히려, (a,bi)처럼 순서쌍으로 나타내는 편이 더 자연스럽기도 하다. 그럼에도 ‘+’를 쓰는 이유는 복소수의 연산에서 ‘+’가 실수의 연산에서처럼 잘 작동하기 때문이다. 예를 들어, 이차방정식 근의 공식은 중학교 수준에서는 실수에 대하여 성립하는 것이지만, 고등학교에서 복소수를 공부한 다음에는 그 모양 그대로 허수인 경우까지 한번에 다루게 된다. 이렇게 생각하면 복소수의 덧셈, 뺄셈, 곱셈, 나눗셈이 가능하다는 것은 사실 대단히 놀라운 일이라 할 수 있다.

복소평면

복소수 a+bi를 좌표평면 위의 점 (a,b)처럼 생각한다.

‘보는 것이 믿는 것(Seeing is believing)’이라는 서양 속담은 수학의 역사에서 인간이 음수를 이해하는 과정을 설명하는 데에 딱 맞는 말이라 할 수 있다. 이것은 복소수의 경우에도 마찬가지이다. 수라고 생각하지 않던 복소수가 널리 받아들여지게 된 계기는, 실수가 수직선 위의 한 점을 나타내는 것처럼 복소수 하나가 평면의 한 점을 나타낸다는 멋진 아이디어였다. 노르웨이의 베셀(Caspar Wessel), 프랑스의 아르강(Jean-Robert Argand) 등에 의해 개발된 이 복소평면 모델은, 모든 n차 다항식은 n개의 근을 갖는다는 ‘대수학의 기본 정리’를 증명하기 위해 가우스(Carl Friedrich Gauss)가 쓴 논문을 통해 널리 알려지게 되었다. 인간이 실수에 워낙 익숙하다 보니, 수가 평면을 나타낸다는 것은 처음에는 이해하기 힘든 생각이지만, 이 모델은 복소수의 모든 성질과 연산 규칙을 시각적으로 이해할 수 있도록 해 주어, 이로부터 수학자들은 아무런 근심걱정 없이 적극적으로 복소수를 사용하기 시작하였다. 어떤 의미에서는 복소평면이야말로 복소수의 본질이라 할 수 있는데도, 최근 고등학교 교육과정에서 이 부분이 빠졌던 것은 참으로 이해하기 어려운 일이었다. 중고등학교 과정의 수학에서, 수학 지식과 기술의 습득도 중요하지만, 복소평면과 같은 멋진 지적 체험의 기회를 제공하는 것도 중요하지 않을까?

복소수보다 더 큰 수는 없을까?

자연수에서 출발하여 점점 수의 범위를 넓혀, 정수, 유리수, 실수를 거쳐 복소수에까지 이르렀다. 이 과정은 연산을 확장하는 과정이라 할 수 있고, 이것은 점점 더 복잡한 방정식을 푸는 과정이라 할 수 있다. 실수에서 복소수로 확장하는 과정이, 제곱하여 -1이 되는 수를 도입하는 것이었으니, 더 복잡한 방정식을 생각하면 어떨까? 예를 들어, 네제곱하여 -1이 되는 수를 이용하여 복소수를 확장할 수는 없을까? 즉, 와 같은 수를 생각해 보자는 것이다. 그럴 듯해 보이는 생각이지만, 혹시 이 수도 복소수일지 모르니, 다음과 같이 두고 a와 b를 구하여 보자.

양변을 제곱하면, 다음과 같이 된다.

따라서 아래의 연립 방정식을 얻는다

방정식을 풀면 다음 두 가지 근을 얻는다.

실제로 두 수를 제곱해 보면 i가 됨을 확인할 수 있다. 사실 이 결과는 복소평면에서 제곱근이 어떤 의미를 가지는지를 생각하면 방정식을 풀지 않고도 즉각 알 수 있다.

복소수는 더 이상 확장되지 않는다

이 결과로부터, 복소수에 를 더 넣는다고 해도 여전히 복소수임을 알 수 있다. 실은 계수가 실수인 어떤 다항식의 근도 복소수가 아닌 것이 없고, 더 일반적으로 계수가 복소수인 다항식 또한 그 근은 모두 복소수이다. 이것을 ‘대수학의 기본 정리’라고 한다. 이런 점에서 복소수는 더 이상 확장이 되지 않는 가장 큰 범위의 수라 할 수 있다.

글 박부성 / 경남대학교 수학교육과 교수