사원수의 계산

[귀뚜라미]

해밀턴이 사원수를 창안한 이유는 수를 이용하여 삼차원 공간을 묘사하기 위해서였다. 삼차원 공간이라면 세 개의 축이 필요하므로, 네 개의 요소가 필요한 사원수는 군더더기가 될 것만 같다. 이번에는 사원수를 어떻게 계산하며, 특히 삼차원 공간에서 회전을 나타내는 방법은 무엇인지 알아보자.

삼차원 공간

데카르트(Rene Descartes)가 좌표를 발명한 것은 기하 문제를 수의 조작을 통해 다룰 수 있게 하여 완전히 새로운 시대의 수학이 가능하게 한 획기적인 사건이었다. 그 이전까지는 기하 문제는 순전히 기하적인 조작만으로 다루었기에, 이해하기도 힘들고 증명은 더욱 힘들었다. 뉴턴(Isaac Newton)의 프린키피아(Principia)도 모든 설명을 유클리드 기하의 여러 사실들을 이용하여 하고 있어서 현재의 지식으로는 오히려 읽기가 대단히 힘들다.

이런 상황에서 좌표의 개념은 수학자들에게 새로울 뿐 아니라 강력한 무기가 되었다. 그러나 좌표를 이용하여 삼차원 공간의 다양한 변환을 나타내는 것은 꽤나 성가시고 귀찮은 일이었다. 특히 회전변환을 나타내는 식은 대단히 복잡하여 수학자들을 괴롭혔다. 해밀턴이 사원수를 만든 목적은 이런 변환을 대수적인 조작을 통하여 다루기 위함이었다.

먼저 사원수를 이용하여 삼차원 공간의 한 점을 나타내기 방법을 알아보자. 삼차원 공간은 세 개의 축을 가지고 있으므로, 사원수 가운데 세 개의 요소만 있으면 된다. 지난 회에 실수와 두 개의 허수 단위로는 삼차원 공간을 묘사하기 어렵다는 것을 확인하였으므로, 사원수의 네 단위 1, i, j, k 가운데 삼차원 공간을 묘사하는 데 쓰이는 것은 i, j, k의 셋이라는 것을 알 수 있다. 즉, 좌표 (a,b,c)인 점은 사원수로는 0+ai+bj+ck = ai+bj+ck가 된다. 대학에서 배우는 미적분학이나 미분기하학에서, 삼차원 공간의 직교하는 세 축을 i, j, k로 나타내곤 하는 것도 여기서 유래하였다.

이렇게 나타낸 점을 평행이동하는 것은 아주 쉽다. 예를 들어, 점 (a,b,c)를 x, y, z 축 방향으로 각각 p, q, r만큼 옮긴다면, 그냥 (ai+bj+ck)+(pi+qj+rk)=(a+p)i+(b+q)j+(c+r)k가 된다. 사원수 자체의 연산으로 본다면, 실수부가 0이 아닌 경우도 다음처럼 같은 식으로 계산할 수 있다.

회전변환과 사원수의 곱셈

사원수의 곱셈은 복소수의 경우처럼 i, j, k를 문자로 취급해서 연산하면 되므로 연산 자체가 어려운 것은 아니다. 두 사원수의 곱을 계산해 보자.

먼저 다음과 같이 식을 전개한다. 사원수의 곱셈은 곱하는 순서에 따라 결과가 달라지므로, ji를 ij로 바꾸거나 하지 않도록 주의해야 한다.

이제 다음 등식을 이용하여 식을 정리한다.

그 결과는 다음과 같다.

여기서 사원수의 곱셈이 어떤 의미를 가질지 생각해 보자. 사원수의 덧셈이야 i, j, k를 독립된 문자로 취급하고 있으니 연산도 자연스럽고 평행이동이라는 의미도 분명하다. 그렇다면 곱셈은?

해밀턴이 사원수를 구상할 때 가장 고민하였던 부분은 회전변환을 사원수의 곱으로 나타내는 방법이었다. 평면에서 회전변환을 나타내는 복소수의 경우, 회전의 중심은 원점인 0으로 고정되어 있으므로, 회전하는 각도만 있으면 충분하다. 그런데 공간에서 회전변환을 나타내려면 상황이 복잡해진다. 회전하는 각도도 필요하지만, 회전축 또한 필요하다. 공간의 한 점 ai+bj+ck를 i축을 중심으로 90도 회전한 것과, j축을 중심으로 90도 회전한 결과가 전혀 다를 것이기 때문이다.

회전축은 원점과 공간의 한 점을 잇는 직선을 생각하면 될 테니, pi+qj+rk로 나타내면 충분하다. 여기에 회전하는 각도에 대한 정보를 나타내려면 실수부를 이용하는 수밖에 없다. 예를 들어, 좌표공간의 (1,1,0)에 해당하는 사원수 i+j = 1i+1j+0k를 i축을 중심으로 회전하는 경우를 생각해 보자. 0+i를 사원수에 곱하는 것은 회전하는 각도가 0도인 경우로 생각하는 것이 자연스러울 테니, 1+i를 곱해 보자.

점을 회전하였으니 점이 나와야 마땅한데, 실수 -1이 튀어나와서 뭔가 이상하다. 이처럼　단순히 사원수 하나를 앞에 곱하는 것으로는 회전변환을 잘 나타낼 수가 없다. 해밀턴은 여기서 매우 교묘한 방법을 사용하였다. 1+i를 회전하려는 사원수 앞에 곱할 뿐 아니라, 1+i를 뒤에 한번 나누어 주는 것이었다. 즉, 다음 수를 뒤에 곱하면 된다.

그 결과는 다음과 같이 절묘하게도 실수부가 0이 되어 사라진다.

실수나 복소수의 경우에는 같은 수를 앞에 곱했다가 뒤에 나누면 서로 상쇄되어 곱하나마나이지만, 사원수의 경우에는 곱하는 순서에 따라 값이 달라지기 때문에 i+j 앞뒤에 1+i를 곱하고 나눈 결과가 i+j 그대로가 아닌 i+k가 된다. 이 경우 회전한 각도는 당연히 90도인데, 1+i 대신 2+2i를 곱하고 나누어도 같은 결과가 나오므로, 곱하고 나누는 수의 실수부가 그대로 회전각의 크기를 알려주지는 않는다. 이것을 어떻게 처리하면 될지는 독자에게 연습문제로 남겨두기로 하자. 힌트를 주자면, 다음과 같이 정의되는 사원수의 절댓값을 이용하면 된다.

선형대수학

공간에서 점의 이동을 묘사하는 사원수는 무엇보다도 물리학에 큰 영향을 끼쳤다. 특히 전기와 자기의 근본 원리를 밝혀낸 맥스웰(James Clerk Maxwell)의 방정식은 사원수를 그야말로 극적으로 활용한 결과였다. 여기까지 읽어온 독자들 가운데 약간 이상한 점을 느낀 사람도 있을 것이다. 지금까지 사원수에 대해 설명한 모든 것은 벡터(vector)로 설명할 수 있으니 말이다. 맥스웰의 방정식을 공부한 사람이라면, "벡터도 아니고 웬 사원수?"라는 반응을 보일 것이다.

사실 벡터라는 용어를 처음 만든 사람은 해밀턴이었다. 사원수 a+bi+cj+dk에서 a는 스칼라 부(scalar part), 점을 나타내는 bi+cj+dk는 벡터 부(vector part)로 불린다. 다시 말해 사원수란 스칼라와 벡터의 합이라 할 수 있다. 사원수는 공간을 묘사하는 데 있어 탁월한 성과를 거두었지만, 계산이 너무 복잡한 단점이 있었다. 또한 허수를 사용하고 교환법칙도 성립하지 않아 계산이 다소 기묘하게 느껴지는 데다, 사차원 이상의 공간을 묘사할 수도 없었다. 이런 점에서 수학자들은 사원수보다 좀더 간단히, 그러면서도 더 일반적으로 공간을 묘사하는 방법을 연구하기 시작하였다. 그 결과 벡터 공간이라는 구조를 다루는 학문인 선형대수학, 벡터 미적분학 등이 정립되기 시작하였다. 따지고 보면, 이런 분야들은 그 역사가 200년도 안 되는 신생 학문인 셈이다.

벡터를 직접 다루는 것이 사원수를 다루는 것보다 훨씬 쉬웠기 때문에, 이런 학문들은 사원수를 빠르게 대체해 나갔다. 한 예로, 맥스웰의 전자기 방정식도 벡터를 이용한 간결한 표현으로 바뀌었다. 이런 흐름에 따라, 선형대수학은 대단히 중요한 과목으로 취급되지만, 사원수는 사실 거의 배우지 않는 이론이 되었다. 적어도 20세기 후반까지는 그러했다.

내적과 외적

마지막으로 내적과 외적이라는 용어의 유래에 대해서 알아보도록 하자. 앞서 두 사원수의 곱셈을 살펴보았는데, 실수부가 0인 두 사원수의 곱은 다음과 같다.

벡터 두 개를 곱한 결과로 스칼라 하나와 벡터 하나가 나오는 셈이다. 사원수 이론을 선형대수학으로 바꾸는 데 큰 공헌을 한 그라스만(Hermann Grassmann)은 두 벡터의 곱에서 스칼라가 되는 수식의 부호를 바꾸어 "내적(inner product)”이라 부르고, 벡터가 되는 수식을 "외적(outer product)”이라 불렀다. 그라스만은 특별한 뜻이 있다기보다는 서로 대조적인 의미에서 붙인 용어라고 하였지만, 사원수 관점에서 본다면, 공간의 두 점에 대한 연산을 한 결과, 하나는 여전히 공간의 점이 되어 겉으로 드러나고, 하나는 스칼라가 되어 원래의 공간에 나타나지 않고 숨어 버린다는 점에서 이런 용어를 붙인 게 아닐까 싶다.

그라스만은 사원수를 대체할 뛰어난 이론을 만들어내었으나, 그의 업적은 오랫동안 잊혀져 있었다. 실망한 그는 수학이 아니라 언어학을 연구하기 시작하여 큰 명성을 얻었다. 사원수를 만든 해밀턴이 언어의 천재에서 수학의 천재가 된 반면, 사원수를 불필요한 것으로 만든 그라스만이 수학자에서 언어학자로 변신하였던 것은 역사의 아이러니라 할까.

글 박부성 / 경남대학교 수학교육과 교수