수학에서 QED란

[Kon-Tiki]

Q.E.D. quod erat demonstrandum ((L.)=which was to be demonstrated))

수학에서 어떤 정리의 증명이 완벽하게 끝났음을 표시하는 말이지요.

=============================================================

정리와 QED
Beyond the Numberacy (John Allen Paulos 저)의 번역판
수학나라에 바보는 없다 (박래식 . 김진권 역, 푸른산, 1994. 4. 20. 초판) 에서 발췌

정리(Theorem)는 일종의 수학적 명제이다. 조금 자세하게 설명하자면, 정리란 자명한 진리라고 공인된 공리(Axiom)와 이미 증명된 다른 정리를 토대로 엄격한 논리적인 과정을 거쳐 유추된 참인 명제를 총칭하는 말이다. 통상 중요한 정리는 경의를 표하는 의미에서 특별한 명칭이 붙는다. 정리와 직결된 성과물을 따름정리(Corollary)라 하고, 보조정리(Lemma)는 어떤 정리의 증명과정에서 생긴 부산물을 가리키는 것으로 대개 어떤 수학적 테크닉을 말한다. 그림이나 도식, 그리고 사례(Example)의 제시 등은 명제의 진위를 그럴싸하게 설명하는 수단은 될 수 있으나, 명제를 정리로 완성시킬 수 있는 것은 오직 엄밀하고 논리적인 증명 뿐이다.


물론 이것은 공식적인 이야기이다. 수학 학술지에 등장하는 정리의 작가들은 (극소수 전문가 집단에 속하는 수학자들은) 언제나, 자기 자신과 역시 전문가 집단에 속하는 극소수 숙달자들과 몇몇 심판을 위해 자신의 정리와 증명의 요지만 간략히 소개하고는 만다. 그들은 일반인을 위해 친절하게 내용을 자세히 소개하는 법이 거의 없다. 결과(수학자들은 정리를 종종 '결과'라고 부른다.)란 늘 너무나 명백하다.

내가 이런저런 세미나, 대담, 회의에 참석하면서 얻게 된 경험만 해도 그렇다. 회의장에서 발표자는 정의, 방정식, 증명의 공세를 퍼부으며 칠판 또는 슬라이드를 가득 채운다. 머리가 혼란하지만, 발표장에 있는 다른 훌륭한 사람들이 슬기롭게 고개를 끄덕이고 있으므로 나는 계속 주목한다. 칠판을 지울 때 또는 슬라이드를 섞는 동안 발표는 잠시 멈춘다. 그 사이에 나는 열렬하게 고개를 끄덕이던 옆사람에게 물어본다. "발표자의 결정적인 말은 무엇입니까?" 또는 "저 기호가 무슨 뜻입니까?" 나의 질문에 수줍어하며 어깨를 으쓱하는 모습에서 그도 마찬가지로 혼란해졌구나 하는 것을 깨닫는다.

강의가 다시 시작되고 내 옆사람은 예의 고개 끄덕임을 다시 시작한다. '이해한다는 끄덕임 이와의 고개 끄덕임도 있구나!'하고 나는 이해한다. 물론 고개를 끄덕일 필요성을 전혀 느끼지 않거나 혹은 고개 끄덕임을 멈출 충동을 전혀 느끼지 않을, 자신의 전공이 발표자의 전공과 충분히 근접한 수학자들도 역시 그 곳에 있을 것이다. 그들이 바로 발표자의 수학적 유효성을 임시로 감시하는 감시인이다.

어떤 명제가 정리라는 메달을 당당히 쟁취했다는 것을 강조하기 위해, 사람들은 그 증명의 맨 끝에 역사와 전통을 자랑하는 QED를 같다붙인다. 라틴어 'Quod erat demonstrandum'의 약자 QED는 '증명 끝'을 뜻하는 용어이다. 이따금 QED는 어떤 공갈이나 협박의 목적에 사용되기도 한다. 따져보면, 우선 그것은 인쇄체 대문자로 되어있다. 그리고 말할 때 과장된 힘이 들어가고, 많은 사람들의 공통된 의견보다 더 확실하다는 일종의 오만함을 물씬 풍긴다. 때때로 어떤 사람들은 QED가 아주 널리 보급된 용어라는 사실을 악용, 수학적 빈곤을 은폐하는 수단으로 사용하기도 한다.

요즘 교재들은 QED대신에 정리의 정명 끝 부분에 까맣고 평범하면서도 편리한 수직 표시 ■를 사용한다. 미국 수학자 할모스 (Paul Halmos)가 시작한 이 표시가 좀더 바람직하다. 이것은 끝맺음 표시로 QED만큼 실용적이면서 위협에는 전혀 도움이 안된다. 나는 QED가 중요한 정리를 위해 가끔은 사용되는 것이 바람직하다고 생각한다. 이유는 그것이 평범한 ■보다 더 뿌듯한 만족감과 당당한 느낌을 증명하는사람에게 선사하기 때문이다.

정리의 논리적 타당성을 검정하기 위한 장치인 수리 논리학은 과거 2300년 이상 엄청나게 변모해왔다. 아리스토텔레스의 삼단논법은 중세시대의 논증 분류법을 낳았으며, 차례로 그 논증 분류법은 부울(George Boole;1815-1864)의 명제 대수학을 낳았다. 19세기 후반과 20세기에 프레게 (G. Frege;1848-1905), 페아노 (Giuseppe Peano;1858-1932), 힐베르트 (David Hilbert;1862-1943), 러셀 (Bertrand Russell;1872-1970), 그리고 괴델 (Kurt Godel;1906-1978)같은 수리 논리학자들은 고전적 중세적 논리학을 엄밀하면서도 방대하게 확장하였다. 또한 그들은 오늘날 술어논리라는 막강한 장치를 창출하였다.

개별적인 증명이 아니라 정연한 논리 체계 속에 수학의 명제를 자리매김함으로써 번잡한 증명 과정을 없애는 것이 목표인 수리 논리학, 그 내부의 핵심 문제는 오늘날 까지도 여전히 미해결 상태로 남아있다. 그리하여 아름다운 당신의 눈에 가시같은 수학적 증명법은 엄청난 호소력과 위력을 간직한 채, 대문자 QED속에 여전히 살아 숨쉬고있다. 오늘도 QED는 너무나 간결하게, 정리는 필연적으로 올바른 가정으로부터 나오며, 그리고 (가정이 올바르다는 가정하에) 그 무엇도 이 사실을 변화시킬 수 없다고 힘차게 시위하고 있다.

증명론에 관한 강의에서 마지막 핵심 사항은 다음과 같다. 많은 사람들이 수학적 증명은 항상 기호형식으로 나타나고, 형식논리학의 모든 소품을 활용하는 것으로 알고 있다. 그러나 사실은 그렇지 않다. 그런 방식의 증명은 대체로 문제 자체를 번잡하게만 할 뿐이다. 따라서 단어 자체에서 끌어낸 간결한 논증이 항상 더 바람직하다. '조합론 : 4색정리의 증명법' 단원에서 적어도 3명이 서로 면식이 있거나 또는 서로 초면이 되기 위해 필요한 최소 인원은 6명이라는 증명방법이나, '위상수학' 단원에서 등산가의 부동점(fixed-point) 존재의 증명방법이 바로 그 대표적인 사례이다. 이런 증명들은 공히 수학의 기호없이 단어만을 사용하여도 수학적 증명이 충분함을 생생히 입증하고 있다.