각뿔의 부피는 1/3을 왜 곱하나?

[JUN샘]

중학교 수학 시간에 각뿔의 부피는 각기둥의 부피에 1/3을 곱하면 된다고 배웠다. 그런데 이 사실은 모래를 채워보는 식으로 실험을 통해 확인해 보았을 뿐이지 왜 정확히 1/3이 되는지 이유를 들어본 적이 없다. 각뿔의 부피는 어떻게 구하는 것일까?

초등학교에서 각종 평면도형의 넓이를 구한 다음, 중학교에서는 여러 가지 입체도형의 부피를 구하게 된다. 이때 각뿔의 부피를 구하는 과정은 조금 이해하기가 어렵다. 다른 입체도형의 부피와 달리 수학적인 설명이 아니라 무려 “실험”을 통해 확인하기 때문이다. 수학 교과서에서는, 각뿔 모양을 만들어 모래나 쌀을 채운 다음, 각기둥 모양에 부어 넣으면 각뿔 높이의 1/3까지 채워진다는 실험을 제시한다. 이 사실로부터 밑면의 넓이가 S, 높이가 h인 각뿔의 부피 V는 다음과 같다고 설명한다.

사각뿔 3개에 모래를 채우고 사각기둥에 부으면 딱 맞게 채워진다.

이런 설명에 의문을 품어본 사람도 있을 것이다. 실험 오차를 생각하면, 각기둥의 부피에 곱해야 하는 진짜 수는 1/3이 아니라 1/2.9가 될 수도 있는 일이지 않은가? 정밀하게 실험할수록 1/3에 가까워지겠지만, 알고 보니 소수점 아래 9가 백만 개쯤 나열된 1/2.99…9가 참값이라면, 이런 건 실험으로 확인할 수 있는 수준이 아니다. 물론 실용적인 목적이라면 이 정도 실험으로도 1/3을 곱하면 된다고 할 수 있지만, 실용적으로 원의 넓이가 반지름의 제곱에 3.14를 곱하면 충분하다고 해서 원주율이 정확히 3.14라고 생각할 수는 없지 않은가.

각뿔의 부피가 각기둥 부피의 1/3이라는 진짜 증명은 고등학교에서 적분을 배울 때에나 나온다. 구분구적법이 바로 그 방법으로, 각뿔을 얇은 판자를 쌓은 형태로 근사한 다음, 판자의 두께가 0에 가까워질 때 전체 부피가 어떤 값에 가까워지는지를 계산하는 것이다. 적분에 대해서는 좀 이따 설명하기로 하겠다. 그런데, 각뿔의 부피는 고대 그리스 수학자들도 알고 있던 지식이었다. 적분이 없던 시절, 그들은 어떻게 각뿔의 부피 공식을 증명할 수 있었을까?

기원전 3세기 무렵의 유클리드가 당대의 수학 지식을 집대성한 “원론”에서 각뿔의 부피가 각기둥의 1/3임을 보인 방법은, 먼저 밑면의 넓이와 높이가 같은 두 삼각뿔의 부피가 같음을 보인 다음 삼각기둥을 다음과 같이 세 개의 삼각뿔로 분할하는 것이었다. 밑면의 넓이와 높이가 같은 두 삼각불의 부피는 같다고 치고, 삼각기둥을 세 개의 삼각뿔로 분할하면 어떻게 되는지 살펴보자.

삼각기둥 ABCDEF를 칼로 잘랐다고 상상하자. 그러면 삼각뿔 ABCD, 삼각뿔 BCDE, 삼각뿔 CDEF로 나눌 수 있다.

 

삼각뿔 ABCD와 삼각뿔 BCDE는 밑면을 삼각형 ABD와 삼각형 BDE로 생각하면 부피가 같다. 삼각형 ABD와 삼각형 BDE는 직사각형 ABED를 2개로 나눈 것이기 때문에 넓이가 같다. 또한 두 삼각뿔 높이는 모두 점C에서 직선 AB까지의 거리이다. 그래서 부피가 같다.

삼각뿔 BCDE와 삼각뿔 CDEF는 밑면을 삼각형 BCE와 삼각형 CEF로 생각하면 부피가 같다. 삼각형 BCE와 삼각형 CEF는 직사각형 BCFE를 2개로 나눈 것이기 때문에 넓이가 같다. 또한 두 삼각뿔 높이는 모두 점D에서 직선 EF까지의 거리이다. 그래서 부피가 같다.

삼각뿔 CDEF와 삼각뿔 ABCD는 밑면을 삼각형 ABC와 삼각형 DEF로 생각하면 부피가 같다. 삼각기둥에서 마주보고 있는 두 삼각형은 합동이기 때문이다. 높이는 둘다 직선 CF의 길이이다.

삼각기둥을 3개로 삼각뿔로 나누었는데, 3개의 삼각뿔의 부피가 서로 같은 것이다. 따라서 삼각뿔의 부피는 삼각기둥의 1/3이 된 것이다.

이제, 밑면과 높이가 같은 두 삼각뿔의 부피가 같다는 것을 볼 차례이다. 하지만, 유클리드의 증명에서 밑면과 높이가 같은 두 삼각뿔의 부피가 같다는 증명은 꽤 복잡하다. 그리고, 이것은 사실상 원시적인 적분의 개념을 사용하는 것이다.

삼각뿔의 부피를 구하는 좀더 세련된(?) 방법이라면 역시 적분을 이용하는 것이다. 밑면의 넓이를 S라고 하고, 꼭짓점에서 거리 x만큼 떨어진 단면의 넓이를 S(x)라고 하자. 이제 다음과 같이 삼각뿔의 부피를 구할 수 있다. 면적의 비는 거리의 제곱에 비례한다는 것을 이용하면 아래와 같이 쉽게 계산할 수 있다.

 

그러니까 1/2.9가 아니라 정말로 1/3을 곱하는 것이다. 그런데, 각뿔의 부피 공식은 적분 없이는 정말 구할 수 없는 것일까?

한 세기가 바뀔 무렵인 1900년, 프랑스 파리에서 열린 국제 수학자 회의(International Congress of Mathematicians)에서 기조 연설을 맡은 수학자는 당시 가장 위대한 수학자로 손꼽히던 독일의 힐베르트(D. Hilbert, 1862 –1943)였다. 새로운 세기가 시작하는 것을 기념하여, 힐베르트는 20세기 수학이 나아갈 방향을 제시하면서 23개의 미해결 문제를 제기하였다. 실제로 수학의 여러 분야를 아우르는 이 문제들을 해결하는 과정에서 20세기 수학은 크게 발전하였다. 미국의 클레이 수학 연구소(Clay Mathematics Institute)에서 2000년에 제기한 밀레니엄 현상 문제도 힐베르트의 23 문제를 본딴 것이다.

힐베르트가 제기한 문제 가운데 세 번째 문제가 바로 각뿔의 부피에 대한 것으로, 삼각뿔을 잘라 다시 붙여 삼각기둥을 만들 수 있느냐는 것이었다. 평면도형에서는 삼각형을 잘라 사각형을 만드는 것이 당연히 가능하다. 이처럼 한 도형을 분할하고 재조합하여 다른 도형을 만들 수 있을 때, 두 도형을 “가위 합동(scissors-congruent)”이라 부른다. 실제로 다음 그림처럼, 어떤 삼각뿔은 삼각기둥과 가위 합동이다. 힐베르트의 질문은 부피가 같은 삼각뿔과 삼각기둥이 언제나 가위 합동이냐는 것이다. 만약 이것이 참이라면 적분 개념을 쓰지 않고도 각뿔의 부피 공식을 증명할 수 있게 된다.

어떤 삼각뿔은 삼각기둥과 가위 합동이다. 그러나 모든 삼각뿔이 그렇지는 않다. <사진제공: 수학사랑>

힐베르트의 문제들은 20세기 내내 많은 수학자들이 풀기 위해 노력했고, 그 중에는 아직도 해결되지 않은 문제가 있을 정도이지만, 세 번째 문제만큼은 의외로 바로 몇 달 만에 제자인 덴(M. Dehn, 1878–1952)에 의해 간단히 해결되었다. 덴은 “덴 불변량”이라는 교묘한 개념을 이용하여 정사면체와 삼각기둥이 가위 합동이 아님을 증명하였다. 즉, 정사면체를 어떻게 잘라 다시 붙이더라도 삼각기둥을 만들 수는 없다. 그러니까, 일반적으로 삼각뿔을 잘라 삼각기둥을 만들 수는 없다는 뜻이다. 중학교에서 삼각뿔의 부피를 실험이라는 이상한 방식으로 설명하는 것은 어떤 의미에서 그렇게 할 수밖에 없기 때문이다.