조던 엘렌버그의 『틀리지 않는 법』, 수학을 더 어렵게 대하게 하는 질리는 책

[방랑객]

우리는 살면서 온갖 문제들과 만난다. 그것은 더러 말다툼으로 비화하기도 하고 그로 인해 감정이 상하기도 한다. 물론 극단적이기는 하지만 다툼으로 번지기도 한다. 그런데 한국 사회는 그때마다 특유한 방법으로 문제를 해결하려 한다. 이른바 목소리 큰 사람이 이긴다는 것이다.

그렇다면 보다 합리적으로 이런 문제를 해결할 수는 없을까. 만약 갈등을 빚고 있는 양 당사자가 이성적이라면 갈등을 빚고 있는 상황에 대해 합리적 증거와 명확한 논리가 있다면 문제 해결을 길이 있을 수 있지 않을까 싶기도 하다. 

여기에 반드시 들어맞지는 않겠지만 세상의 모든 상황을 수학적 관점에서 이해하기를 기대하며 쓴 책이 있다. 조던 엘렌버그의 『틀리지 않는 법』이다. 생활 속에는 알게 모르게 틀리지만 틀리는지 모르고 지나치는 경우가 흔한 것처럼 수학 속에서 그런 모양이다. 

사실 이 책은 바로 그 제목 때문에 눈길이 갔다. 앞에서 내가 밝힌 것처럼 틀리지 않는다면 갈등이 일어날 일은 훨씬 줄어들겠다는 아주 단순한 생각이 들었기 때문이다. 그러나 책을 읽으면서 그런 내 생각이 잘못되었음을 알아차렸지만 돌아서기에는 너무 멀리 왔다.

하는 수 없이 책장을 계속 넘기기는 했지만 더러 도무지 이해할 수 없는 곳이 상당했다. 책은 우리 같은 일반 독자보다는 아마도 수학을 공부하는 사람들을 위해 쓴 것인 듯싶었다. 저자는 프롤로그에서 책 제목과 관련하여 내게 솔깃한 말로 이야기를 시작한다. 

뭘 틀리지 않는다는 말일까? 계산? 내가 하는 말? 저자는 독자를 대신해서 물음을 던진다. “이걸 어디에 써먹을까?” 그러게. 지금까지 수학을 특별히 염두에 두지 않아도 생활에 별로 불편이 없었으니까. 그러면서 아브라함 발드와 사라진 총알구멍으로 이야기를 옮겨간다.

그러더니 내가 잘 알지 못하는 뮤추얼 펀드를 예로 들어 설명을 더 한다. 그리고 마침내 이 책이 담고 있는 수학의 깊이를 설명한다. 수학은 단순할 수도 복잡할 수도 있다. 얕을 수도 있고 심오할 수도 있다. 그 중 이 책은 얕고 복잡한 것들을 주로 다루고 있다고 넌지시 겁을 준다.

이때 과감하게 책을 덮었어야 했다. 1부는 선형성 문제를 다루고 있다. 피타고라스 정리에 대한 고대의 논증법을 따라가며 원주율을 이끌어낸다. 이 과정을 통해 곡선의 극소한 부분이 직선과 별로 다르지 않다는 것을 원에 내접한 사각형과 외접한 사각형을 통해 설명한다. 

아울러 시야를 더 좁혀 무한소에 다다랐을 때의 그곳에서는 미사일의 궤적은 정확히 직선이 되며 그 사실로부터 뉴턴의 유율(플럭시온)이라는 지금의 도함수를 은근히 들먹이며, 무한소의 개념을 무한소수를 사례로 설명한다. 책은 이런 식의 이야기가 장황하다. 

선형회귀를 읽다보니 문득 생각나는 것이 있다. 나름대로 틈틈이 운동을 하는데도 체중은 요지부동이었는데 그 이유를 막연하나마 알 것 같다. 일부러 굶으며 살을 빼려고 하는 극단적인 경우를 제외하고는 체중 역시 평균으로 회귀할 것이라는 것이다.

두 번째 이야기는 추론에 관한 것이다. 여기서는 주로 확률의 문제가 다루어지고 증명과 관련한 문제를 다룬다. 동전을 ‘던져서 앞면이 나올 확률은 1/2이다’는 것은 큰수의 법칙으로 알 수 있다. 그러면 ‘내일은 비가 올 확률은 20%’라는 말은 무슨 뜻일까. 

내일은 한번 밖에 오지 않는다. 동전 던지기처럼 반복할 수 없다. 그러나 과거의 수많은 데이터를 통해 비슷한 날들을 찾을 수 있을지 모른다. 그렇다면 ‘앞으로 천년 안에 인류가 멸종할 확률은 얼마나 될까’ 이것은 정의상 반복이 거의 불가능한 실험이다.

이러한 문제는 어떻게 접근할 수 있을까. 여기에서 귀류법이 소개된다. 내심 거짓이라고 믿는 무언가를 참으로 가정하는 행위는 아리스토텔레스까지 거슬러 올라가는 유서 깊은 논증 기법이다. 이것은 모순에 의한 증명, 혹은 귀류법이라고 한다.

소수에 관한 이야기도 헷갈리기는 하지만 어떻든 약간 흥미로운 듯하다. 소수의 개수에 관한 문제인데 이를 알기 위해서는 자릿수를 가리키는 log가 동원되어야 한다고 한다. 소수의 개수는 얼마나 될까? 1000이내의 짝수는 정확히 500개이고, 2의 거듭제곱 수는 겨우 10개다.

소수의 수는 10개보다는 많지만 500개 보다는 적다. 여기까지는 알겠는데 느닷없이 첫 N개의 수 가운데 소수는 약 N/logN 개라며 이것이 <소수 정리>의 골자라고 한다. 강아지 뒤를 졸졸 따라가던 중에 강아지가 어디론가 쏜살같이 달아난 기분이다.

세 번째 이야기는 <기대>, 즉 기댓값에 관한 이야기다. 여기에서는 복권을 중심으로 설명을 하고 있다. 혹시나 이 부분을 알아두면 복권을 사는데 영향을 줄지 모른다는 생각에 눈을 동그랗게 떴다. 그런다고 복권 당첨 확률이 높아질까 모르겠다.

옛말에 복권은 <바보들에게 물리는 세금>이라고 했다. 그렇다면 안 사야하는가. 많은 사람들이 복권을 사는 것은 돈을 버리는 것이라 생각한다. <국부론>을 쓴 아담도 바로 그 <국부론>에서 복권을 반대했다고 한다. 

복권을 사는 것은 기댓값에 의해 결정될 수 있다. 보통의 기댓값은 당연히 복권 가격보다 낮다. 그런데 일등 당첨자가 나오지 않고 당첨금이 다음 회차로 이월되면 기댓값은 그만큼 높아지게 마련이다. 그리고 마침내 기댓값이 복권 값을 상회할 때 복권을 구입하라는 것이다.

실제로 MIT 대학교 학생들이 이런 방식으로 기댓값이 높을 때 복권을 대량으로 구입해서 상당한 재미를 봤다고 한다. 따라서 그런 기회가 아니라면 복권은 사지 않는 것이 올바른 것이다. 그래도 복권을 사고 싶은 사람들을 위해 저자는 몇 가지 조언을 한다.

즉, 남들이 고르지 않을 것 같은 숫자를 고르라. 무슨 이유에선지 모르지만 자기의 생일을 고르지 말라. 지난번에 나왔던 숫자를 고르지 마라. 티켓에서 깔끔한 패턴을 그리는 숫자를 고르지 마라. 복권회사에서 권하는 숫자를 고르지 마라 등.

소실점에 관한 이야기도 흥미롭다. 우리는 그저 소실점은 평행한 철길이 멀리가면 결국은 시야 끝에서 한 점으로 만나는 것으로 알고 있다. 그것에 무슨 의심을 품거나 이유를 따져보지 않았다. 그건 직관의 문제였으니까. 그런데 거기도 수학의 문제가 들어 있단다.

책에서는 장황하게 설명을 하며 증명을 하고 있다. 내 눈으로 양쪽 철로를 내려다보면, 오른쪽 눈, 그리고 왼쪽을 선으로 이으면 삼각형이 된다. 철로 위에서는 삼각기둥이 된다. 그리고 그 꼭짓점은 철길과 평행하며, 내 시선에서 만난다. 그곳이 바로 소실점이다.

네 번째 이야기는 회귀이다. 회귀의 문제는 언뜻 보면 상식의 문제 같기도 하다. 모든 행위들은 평균을 중심으로 멀리 떨어져 있지 않다는 말로 이해된다. 단기간의 갑작스런 돌출 행동이 있을 수는 있지만 이것도 결국은 평균 주변으로 돌아온다는 말이다. 

프로야구 선수가 시즌 초에 가장 홈런을 많이 쳤다고 그런 추세를 감안해 볼 때 그가 그해의 홈런왕이 되리라는 기대가 그런 것이다. 물론 여기서 추세라는 말을 사용하기는 했지만 추세는 그래프가 일직선으로 계속 이어질 때 가능한 것이다. 그것이 회귀라는 것이다.

회귀는 우생학을 태동시킨 골턴에 의해서 생겨났다. 그는 우리가 연구하는 현상이 우연의 영향을 받을 때면 언제든 평균으로의 회귀가 작동하는 것을 보여주었다. 평균으로의 회귀와 관련해 볼 때 날씨는 물론 기온도 물론 평균으로의 회귀를 따른다고 한다. 이변은 없다. 

다섯 번째 이야기는 존재 이야기다. 여기서는 여론조사에 관한 이야기가 흥미롭게 이어진다. 지난 대선을 떠올려보면 매일처럼 쏟아지는 여론조사에 각 진영이 일희일비했을 것이나 대부분은 결과를 자기들이 유리한 쪽으로 해석한다. 

현재 대통령 당선자의 지지율은 역대 당선자 중 제일 낮은 수치를 보이고 있다. 이 경우는 어떻게 해야 할까? 저자는 흥미로운 답을 준비하고 있다. “저는 이끌라고 선출된 것이지 여론 조사를 지켜보라고 선출된 것은 아닙니다” 라고 말이다. 

국회 다수를 차지하고 있는 당에서 느닷없이 검수완박을 전광석화 같이 법안으로 통과시켰다. 의원수가 절대적 우위를 점하고 있기 때문이다. 그러나 저자는 다수결은 간단하고 깔끔하고 공정한 기법으로 느껴지나 단 두 선택지 사이에서만 그렇다고 한다.

그러나 책을 읽으면서 자꾸 입안에 가시가 가득한 느낌을 받는다. 사회라는 곳은 서로 익숙하거나 그렇지 않은 사람들이 서로 어울려 부대끼는 곳이다. 때로는 내가 유리하더라도 적당히 양보해야할 때가 있을 수 있다. 알지만 모른 척할 수도 있을 것이다. 

그런데 사사건건 그건 이렇고 저런 저렇고 하며 따져든다면 확실한 보상이 있을 것이다. 저자의 장황한 설명을 따라가다 보면 자칫 틀리지 않으려다 주변에 사람들이 모두 사라지지 않을까 하는 걱정이 생길 지경이다.