통신을 하다 보면, 고등학생들이, 어디서 들었는지, 삼차 방정식의 근의 공식을 묻곤 합니다. 고등학교 수학이, 워낙에 문제 풀이 중심이다보니, 어려운 과정없이, 어떻게든 공식같은 걸로 방정식 문제를 간단하게 해결하고 싶어서겠지요.
그런데, 불행히도, 이차 방정식과는 달리, 그 공식이라는 게 무지막지하게 복잡합니다. 보통, 학생들이 묻는 게 Cardano의 공식인데, 이게 공식 자체를 외운다는 게 거의 불가능인데다가, 이런 걸 외우느니, 그냥 고등학교 수업 시간에 배운 여러 방법들을 쓰는 게 훨씬 낫습니다. (물론, 문제 자체가 그런 식으로 풀리게 만들어져 있으니까 당연합니다만...)
어떤 수학자에게 물어도, 이 Cardano의 공식을 "외우고 다니는" 사람은 없습니다. 대신 공식의 유도 과정을 알고 있기 때문에, 직접 방정식을 주면 해를 구하는 건 대부분 할 수 있습니다. (유도 과정이 생각보다는 자연스럽기 때문에 특별히 힘들여 외운다거나 하지는 않습니다.)
u, v를 잘 조절하면, 3uv=6이 되게 할 수 있고, 따라서, 이 삼차 방정식은 u3 + v3 = 9, uv = 2를 푸는 걸로 바뀝니다.
u3 + v3 = 9, u3 v3 = 8이니까, 이차 방정식 t2 - 9t + 8 = 0을 풀면, t = 1, 8이 되고, 따라서 u = 1, v = 2라 두면, x = u+v = 3이라는 근을 구할 수 있습니다. 한편, ω = (-1 + √3 i)/2라 하면, u = ω, v = 2ω2 과 u = ω2, v = 2ω도 조건을 만족하므로, x = (-3 ± √3 i)/2라는 나머지 두 근도 구할 수 있습니다.
삼차 방정식의 근의 공식은 이 과정을 문자를 써서 표현하면 됩니다.
물론, 지금 한 방법은 방정식의 이차항이 0인 경우만을 다루고 있습니다. 그럼, 일반적인 방정식은 어떻게 할까요? 뜻밖에 간단한 방법이 있습니다. 방정식 x3 + ax2 + bx + c = 0이 주어져 있다면, x 대신에 y - a/3을 대입합니다. 그러면, 이 방정식은 y에 대한 삼차 방정식이 되는데, 절묘하게도 y의 이차항이 사라져 버립니다. 이제는 앞서 썼던 방법으로 삼차 방정식의 근을 구할 수 있습니다.
실은, 이 공식에는 약간은 비극적인 일화가 있습니다.
처음 이 공식을 발견한 것은 이탈리아의 Nicolo Fontana였습니다. 그의 별명은 타르탈리아, 벙어리라는 뜻으로, 어렸을 때 혀를 다쳐 말을 잘 하지 못해서 생긴 별명이라고 합니다.
16세기 유럽에서는 수학 문제 풀기 시합이 유행했다고 하는데, Fontana는 삼차 방정식의 공식을 발견하고는 비장의 무기로 삼고 있었습니다. 그야말로 엄청난 위력을 가진 무기인 셈이죠. 그런데, Cardano라는 사람이 Fontana에게 찾아 와, 그 공식을 가르쳐 달라고 간청을 했고, Fontan는, 비밀로 한다는 조건 아래, 그 공식을 가르쳐 주었습니다. 그러나, 얼마 후에 Cardano는 자기 책 "Ars Magna(위대한 계산법)"에 그 공식을 발표해 버렸습니다.
Fontana는 Cardano의 태도에 분개해서, 그와의 수학 시합을 통해 진상을 밝히려고 했지만, 별명처럼, 말을 잘 못하는 그는 아무에게도 인정을 받지 못하고, 그 공식은 아직까지 "Cardano의 공식"으로 전해 옵니다.
이제, 사차 방정식을 생각해 봅시다. 다음에서 설명할 방법은, Cardano의 제자인 Ferrari가 발견한 방법입니다. 예를 들어, x4 - 2x2 + 8x - 3 = 0을 풀어 봅시다.
x4 = 2x2 - 8x + 3의 양변에 x2z + (z/2)2을 더하면,
(x2 + z/2)2 = (z+2)x2 - 8x + (z/2)2 + 3
이 됩니다. 우변이 완전 제곱이 되면, 방정식은 x에 대한 이차 방정식을 푸는 걸로 바뀌니까, 그렇게 되는 z를 찾아 봅시다.
판별식 D = 64 - 4(z+2) (z2/4 + 3) = 0 이면 되니까, z에 대한 삼차 방정식 z3 + 2z2 + 12z - 64 = 0의 한 근인 z = 2를 원래의 식에 대입하면,
(x2 + 1)2 = 4x2 - 8x + 4 = 4(x - 1)2
이 되고, 이 방정식을 풀면, 네 근 x = 1 ± √2 i, -1 ± √2를 모두 구할 수 있습니다. 이 방법은, Cardano의 공식과 비슷하게, 삼차항을 갖지 않은 경우만 쓸 수 있습니다만, 임의의 사차 방정식 x4 + ax3 + bx2 + cx + d = 0이 주어졌을 때, x 대신에 y - a/4를 대입하면 원래 방정식의 삼차항을 소거할 수 있습니다.
"공식"이라는 말에 솔깃했던 분들도, 실제로 푸는 방법을 보면, 글머리에서 한, "공식이란 게 그다지 유용하지 못하다"는 말의 뜻을 알 수 있을 것입니다.
정말로 공식을 외우기가 불가능할 정도로 복잡하고, 공식보다는 "푸는 방법"을 알고 있는 게 효과적이긴 하지만, 그 또한 "교과서의 방법"만 못하기 때문입니다.
이제 새로운 질문을 해 봅시다.
비록 복잡하긴 하지만, 삼차와 사차 방정식의 경우에는 근의 공식이 존재합니다. 그렇다면, 오차 방정식의 근의 공식은 어떻게 될까요? 오차 방정식이, 중근을 겹쳐 센다면, 꼭 다섯 개의 복소수 근을 갖는다는 사실은 이미 가우스에 의해 밝혀졌습니다. 하지만, 그렇다고 해서, 오차 방정식의 근의 공식이 있다는 뜻은 아닙니다. 가우스의 증명이 근을 직접 만들어 보이는 것은 아니었으니까요.
실은 오차 방정식의 경우, Cardano의 공식이나, Ferrari의 공식같은 것이 존재하지 않는다는 사실이 Abel과 Ruffini에 의해 19세기 초에 밝혀졌습니다