복소수의 제곱근

[귀뚜라미]

오늘의 과학, [복소수의 유용성] 편을 통해 복소수의 덧셈과 곱셈에 대하여 알아본 적이 있다. 덧셈과 곱셈의 원리를 이용하면 복소수의 뺄셈과 나눗셈도 정의할 수 있다. 이 글에서는 복소수의 제곱근에 대하여 알아보자.

제곱근을 정의하려면

양의 실수 a에 대하여 √a(이 글에서 루트 a를 뜻함, 이하 동일)는 “제곱하여 a가 되는 양의 실수”로 정의된다. 정의되는 대상도 양의 실수이고 결과도 양의 실수이므로, √i와 같은 기호를 곧이곧대로 쓸 수는 없다. 그러니 복소수의 제곱근은 완전히 새로운 관점에서 정의할 수밖에 없다. 예를 들어, 제곱하여 i가 되는 복소수는 다음의 두 가지가 있다고 하였다.

두 복소수는 부호만 반대일 뿐이므로, 하나를 √i로 하고 다른 하나를 -√i로 하면 자연스럽다. 그러면 어느 쪽을 √i로 정해야 할까? 두 복소수 모두 실수가 아니므로, 양수를 고를 수는 없다. 이 경우는 어쩐지 앞의 복소수를 √i라고 하는 것이 자연스러워 보이기는 하지만 √(-i)의 경우는 어떨까? 제곱하여 –i가 되는 복소수를 구하여 보면 다음의 두 가지가 된다.

이 경우는 어느 쪽을 골라야 할지 알쏭달쏭하다. 두 복소수 가운데 더 큰 수를 고르면 될까? 그러려면 어느 쪽이 더 큰 복소수라고 해야 할까?

복소수의 대소 비교

생각해보면 실수의 경우에도 양수라는 것을 어떻게 정의하면 좋을지 조금 막막하다. 우리가 워낙 실수에 익숙하다 보니 음수와 양수를 자연스럽게 구별하고 있지만, 도대체 ‘0보다 크다’ 또는 ‘0보다 작다’는 것이 무슨 뜻일까? 이런 것이 명확하게 정의되어야 그 개념을 복소수까지 확장할 수 있다.

실수의 경우, 수직선이라는 모델이 있으므로, 기준점인 0보다 오른쪽에 있는 수를 0보다 크다고 하는 식으로 설명할 수 있지만, 복소수의 경우는 직선이 아니라 평면이 모델이 되므로, 0보다 오른쪽이라고 하는 개념은 어색하다. 예를 들어 i를 0보다 더 오른쪽에 있다고 할 수는 없을 테니 말이다.

실수의 어떤 부분집합 P의 원소들끼리 더하거나 곱해도 여전히 P에 속한다고 하자. 만약 임의의 실수에 대해 P에 속하거나 0이거나 아니면 부호를 바꿀 때 P에 속하는 세 가지 경우만 성립한다면, 우리는 이 집합 P의 원소를 양수라 부른다. 이 교묘한 정의는 부등호를 이용하지 않고 양수를 정의하는 방법이다.

이 정의를 복소수로 확장하면 어떻게 될까? 양의 복소수의 집합 P를 어떻게든 만들어냈다고 생각해 보자. 허수 단위 i는 분명히 0이 아니니까, i 또는 –i는 P 의 원소가 되어야 한다. 그런데 i가 P의 원소라면, i와 i를 곱한 결과 또한 P의 원소가 되어야 한다. 그러나 i와 i를 곱한 결과는 -1이므로 P에 속할 수 없다. 그렇다면 –i가 P의 원소라야 한다. 그러나 –i와 –i를 곱한 결과 역시 -1이므로 P에 속할 수가 없다. 따라서 양의 복소수의 집합 P란 존재할 수가 없고, 바꿔 말하면 복소수의 경우 대소 관계를 생각할 수가 없다.

수직선에는 좌우 두 방향뿐이지만 복소평면에는 무한히 많은 방향이 존재한다.

물론 복소수의 집합에 적당한 순서 관계를 주는 것은 얼마든지 가능하다. 예를 들어, 복소평면을 지도라고 생각하고, 동쪽에 있는 복소수가 더 크고, 경도가 같은 경우, 위도를 따져 북쪽에 있는 복소수가 더 크다는 식으로 순서를 정의할 수 있다. 이 순서를 “동쪽 다음 북쪽 순서”라 부르자. 이 순서는 실수의 대소 관계를 보존하면서 복소수의 덧셈에 대해서도 순서 관계를 유지하므로 꽤 그럴 듯하지만, 앞서 설명한 이유로 복소수의 곱셈에 대해서는 순서 관계를 유지하지 못한다. 즉, 0보다 큰 순서끼리 곱하면 항상 0보다 큰 순서가 되면 다행이나 그렇지가 않다. i끼리 곱하면 -1이 나와버리니 말이다. 복소수에서 대소 관계를 생각할 수 없다는 것은 이처럼 복소수의 연산과 조화를 이루는 순서 관계를 줄 수 없다는 뜻이다.

복소평면에서 본 제곱근

양의 복소수는 생각할 수 없지만 순서를 생각할 순 있다면, 이 순서를 이용하여 복소수의 제곱근에 순서를 정하면 되지 않겠냐는 생각을 하는 사람도 있을 것 같다. 그러나 연산과 조화를 이루어야 하는 대소 관계와 달리 순서 관계는 여러 가지로 정할 수 있으므로 이런 식으로 제곱근의 순서를 정의하기도 쉽지 않다. 앞서 예를 들었던 “동쪽 다음 북쪽” 순서는 실수의 대소 관계를 보존하니 좋다고 하였는데 “북쪽 다음 동쪽”순서도 이는 마찬가지다. 그런데 그에 따라 i와 –i의 제곱근을 살펴보면 아래와 같이 차이가 난다.

이런 혼란을 해결하기 위해 복소수의 제곱근을 복소평면에서 기하학적으로 살펴보자. 지난 회에 설명한 것처럼, 두 복소수의 곱은 다음과 같이 정의된다.

이 사실을 이용하면 제곱하여 i가 되는 복소수를 복잡한 계산 없이도 구할 수 있다. 복소수 z의 절댓값이 r이고 실수축 양의 방향과 이루는 각도가 θ라면, 다음과 같이 된다.

따라서 z²=i인 복소수 z는 r²=1인 r를 구하고, 2θ=90° 또는 2θ=(360+90)°인 θ를 구하면 된다. 당연히 r=1이고 θ=45° 또는 θ=225°이므로 다음 두 복소수를 쉽게 구할 수 있다.

i의 제곱근(좌) –i의 제곱근(우)

이렇게 생각하면 복소수의 제곱근을 정의할 때, 실수축과 양의 방향과 이루는 각도를 기준으로 순서를 정하는 것이 비교적 자연스러워 보인다. 복소수 i가 실수축 양의 방향과 이루는 각도를 90˚라고 하는 것이 450˚라고 하는 것보다는 자연스러워 보이기 때문이다. 그러면 이제 복소수 a의 제곱근을 구할 때는, 그 복소수가 실수축 양의 방향과 이루는 각도가 0˚보다 크거나 같고 360˚보다 작은 것으로 생각하여 일단 √a를 구하고 그 다음 부호를 바꾸어 -√a를 구하면 된다. 이때 복소평면에서 각도의 범위 0˚~360˚의 경계가 되는 실수축 양의 방향을 분지(分枝)라 부른다. 우리말로는 “갈래” 정도로 부르면 어떨까 싶다. 이렇게 생각하면 복소수의 제곱근을 구하는 과정이 실수의 제곱근에 대해서도 일관성 있게 성립하여 매우 자연스럽다.

제곱근과 분지

분지 개념을 이용하여 제곱근을 정의하는 것은 아주 멋지지만, 불행히도 분지를 선택하는 방법이 유일하지는 않다. 예를 들어, 각도의 범위를 0˚~360˚로 생각하면, √-i를 다음 복소수로 정하는 것이 자연스럽다.

그런데 각도의 절댓값이 작은 쪽을 선호하여 범위를 -180˚~180˚로 바꾸어 생각하면 이번에는 √-i를 다음 복소수로 정하는 것이 자연스럽다. 이 경우 분지는 실수축 음의 방향이 된다.

여기서 음의 각도란 실수축 양의 방향을 기준으로 시계방향으로 각도를 재는 것을 뜻한다. 이 경우 –i가 실수축 양의 방향과 이루는 각도는 -90˚이다.

분지가 달라지면 √-i도 다르게 결정된다.

실제로 분지를 선택하는 방법이 무한히 많으므로 일반적으로 임의의 복소수 a에 대하여 √a를 대응시키는 함수도 무한히 많다고 할 수 있다. 제곱하여 –i가 되는 두 복소수를 구하는 것은 단순 계산일 뿐이지만, 둘 중 어느 것을 √-i로 정할 것인지는 의외로 아주 어려운 셈이다. 이런 이유로 고등학교 과정에서는 복소수의 계산을 다루되 복소수의 제곱근과 같은 것은 철저하게 피하고 있다. 근호가 섞여 있는 무리방정식의 해를 구할 때 항상 실수 범위에서만 해를 구하는 것도 이런 이유에서이다.

곱의 제곱근과 제곱근의 곱

분지가 특히 문제가 되는 것은 두 복소수의 곱의 제곱근을 구할 때이다. 고등학교에서 복소수를 배우면서 아주 헷갈리게 하는 다음 부등식이 그 한 예라 할 수 있다.

좌변의 제곱근을 구하는 과정을 복소평면에서 생각해보자.

             1. 두 실수 a와 b가 모두 음수이므로, 두 실수가 실수축 양의 방향과 이루는 각도는 둘 다 180˚이다.                             
             2. 두 수 a와 b의 곱 ab가 실수축 양의 방향과 이루는 각도는 180˚+180˚=360˚인데, 분지를 생각하면 이 각도는

              0˚로 고쳐 써야 한다. 
             3. √(ab)가 실수축 양의 방향과 이루는 각도는 0˚의 절반이므로 역시 0˚이다.

이번에는 우변에 있는 제곱근의 곱을 구하는 과정을 복소평면에서 생각해 보자.

          1. 두 실수 a와 b가 모두 음수이므로, 두 실수가 실수축 양의 방향과 이루는 각도는 둘 다 180˚이다.
          2. √a와 √b가 실수축 양의 방향과 이루는 각도는 180˚의 절반이므로 90˚이다.
          3. √a와 √b의 곱 √a √b가 실수축 양의 방향과 이루는 각도는 90˚+90˚=180˚이다.

좌변과 우변의 절댓값은 같으므로, 결국 두 수는 양의 실수와 음의 실수로 부호가 반대가 된다. 이와 같은 차이가 생긴 이유는 두 각을 더한 다음 360°으로 나눈 나머지를 생각하는 것과, 두 각을 360°으로 나눈 나머지를 더하는 것이 서로 다르기 때문이다. 이것이 달라진 이유가 바로 분지 때문이다. 같은 방법으로 다음 부등식도 설명할 수 있다.

√x=-1 방정식에 대하여

끝으로 방정식 √x = -1를 생각해보자. √x가 실수축 양의 방향과 이루는 각도를 θ라 하면, 분지를 어떻게 잡든, 0°≤θ<180° 또는 -90°<θ≤90°처럼 0˚를 포함하면서 그 폭이 180˚인 구간에 θ가 속한다. 그런데 -1이 실수축 양의 방향과 이루는 각도는 180˚이므로, 이 방정식을 만족하는 복소수 해는 존재하지 않음을 알 수 있다. 물론 이 방정식의 좌변은 x에 대한 다항식이 아니므로, 이 방정식의 해가 존재하지 않는다는 것이 대수학의 기본 정리에 모순되지는 않는다. 한편 이 방정식의 해를 생각하여 복소수를 확장하는 것도 당연히 가능하다. 그것이 아무리 괴상해 보일지라도, 수학의 본질은 그 자유로움에 있기 때문에.

글 박부성 / 경남대학교 수학교육과 교수