혼돈은 나쁘고 질서는 좋은 것인가? 반드시 그런 건 아니다. 혼돈이란 환경 변화에 대한 유연성을 의미하고, 반대로 질서란 너무 강조하면 경직돼 있음을 말한다. 30년 전만 하더라도 무시무시한 독재정권의 시대였다. 유신이라고 하는 공포의 시대였는데, 사회는 아주 질서정연했다. 얼른 보면 좋아보일지 모르지만 실제로는 군사문화에 사로잡힌 극히 경직된 사회였다. 하다못해 남자가 머리카락이 길면 경찰이 잡아서 구치소에 넣었다가 머리카락을 강제로 깎았다. 여자가 짧은 치마를 입어도 잡혀갔다.
그런데 그 정도가 아니라 죄 없이 목숨을 잃은 사람도 많았다. '인혁당' 사건이라는 가슴 아프고 분노가 치밀어 오르는 사건이 불과 30년 전에 있었다. 정의를 지켜야 할 사법부가 '사상과 양심의 자유'라는 기본권을 짓밟고 권력의 시녀 또는 주구가 되어서 관련자들에게 사형 판결을 내리고 불과 하루 만에 모두 사형을 집행하였다. 외국 언론에서는 '사법 살인'이라고 보도한 치욕의 역사였다. 피해자의 가족은 30년 동안 고통과 탄압 속에 숨죽여 지내온 반면에 가해자들은 권력과 명예를 쥐고서 사회 '지도층'으로 떵떵거리며 살아왔다.
지난 해, 30년이 지나서 그나마 재심이 이루어지고 결국 무죄 판결이 내려졌다. 아무튼 질서정연한 경직된 사회는 변화가 오면 적응하지 못해서 붕괴하기 마련이다. 역사가 보여주고 있다.
그럼 마구잡이와 혼돈을 어떻게 구별할 수 있나? 마구잡이란 자유도가 매우 큰 경우에 생각할 수 있는 개념이다. 물을 끓일 때 처음에는 물 분자 하나하나가 들떠서, 곧 에너지가 커져서 말 그대로 마구잡이로 움직인다. 개개의 물 분자가 따로 움직이므로 기술해야하는 구성원의 수, 또는 자유도가 엄청나게 많은데 이를 모두 동역학적으로 기술할 수는 없으므로 마구잡이라는 개념이 필요하다. 그러나 혼돈이란 자유도와 직접 관련이 없이 나타나는 현상이고, 보통 자유도가 적은 계에서 생각한다. 물이 펄펄 끓는 막흐름에서 물 분자들은 각각 따로 움직이는 것이 아니라 모여서 떼를 이루어 움직이므로 자유도가 적은 계로 생각할 수 있고, 이런 점에서 물 분자들이 제각각 멋대로 움직이는 마구잡이와 구분된다.
물론 자유도가 적은 계에서도 외부로부터 마구잡이로 영향을 받게 되면 당연히 그에 의해 불규칙한 마구잡이 거동을 보이게 된다. 이러한 외부 마구잡이의 영향이 없이 내재적인 요인으로 불규칙한 거동을 보이는 현상이 혼돈이다. 예를 들어 흔들이 또는 그네를 마구잡이로 민다고 생각해보자. 그러면 그네의 운동이 어떻게 될까? 그야말로 마구잡이가 될 것이다. 이런 건 혼돈이 아니다. 이는 외부의 마구잡이 영향 때문에, 다시 말해서 원래 마구잡이로 밀어줬으니까 불규칙하게 된 거다. 혼돈이란 그네를 마구잡이로 밀지 않고 규칙적으로 미는데도 조건이 맞으면 그네의 거동이 마구잡이처럼 되는 현상을 말한다. 그러니 그 두 가지는 다르다.
그럼 혼돈이론이나 상대성이론, 양자역학 같은 것이 다른 학문이나 사회 일반에 대하여 어떤 영향을 끼쳤나?
상대성이론은 시공간 개념을 수정하였고 양자역학이란 고전역학이라는 방법을 바꾸었다. 각각 기존의 서술 기반이나 양식을 대체했다고 할 수 있으므로 정확한 의미에서 새로운 패러다임이라고 할 수 있다. 그러나 혼돈은 고전역학의 기반이나 양식 따위를 대체한 것이 아니라 고전역학 자체를 어떻게 이해해야하는가에 대해 문제를 제기하였다. 자연을 기술할 때 그 동안 전제하고 있던 생각, 곧 자연 현상은 결정론적이고 예측할 수 있다는 믿음이 타당하지 않음을 보여준다. 말하자면 양자역학처럼 고전역학 자체를 대체하는 것이 아니라 고전역학 안에서 기존의 해석이 잘못되었음을 말해주는 거다.
이에 따라 물리학 내부에서 보면 혼돈이론은 상대성이론이나 양자역학만큼 커다란 영향을 끼쳤다고 할 수는 없다. 새로운 패러다임이라고 볼 수 있는가 문제도 논란이 있다. 물론 결정론과 예측가능성이라는 전제에 대해 새로운 관점을 제시했다고 할 수 있지만 패러다임이라는 측면에서 명백하다고 보기는 좀 어렵다.
물리학에서 혼돈 현상은 본격적으로는 30년 가깝게 연구가 이루어졌다. 혼돈 자체는 이제 꽤 잘 이해하고 있다. 자연을 해석하는 기본 전제를 일부 바꾸어서 예측불가능성도 기본적인 요소로 봐야 한다는 것이 혼돈이론의 중요한 교훈이다. 이는 사실 고전역학뿐만 아니라 양자역학도 마찬가지다.
양자역학에서도 결정론을 전제하고 있다. 양자역학에서는 물론 불확정성 원리라는 게 있어서 확률적 해석이 필요하지만 일단 상태함수를 알면 모든 것을 다 안다. 그런데 상태함수라는 것 자체는 완전히 결정론적으로 움직입니다. 이는 고전역학과 아무런 차이가 없다. 그러니까 양자역학이나 고전역학이나 결정론적인 본성에는 차이가 없다.
다만 고전역학에서는 상태라는 규정 자체가 물리량에 해당하기 때문에 더 이상 해석의 과정이 필요 없고 결정론에서 바로 끝나지만 양자역학에서는 상태를 규정하는 상태함수를 물리량과 연결짓기 위한 해석이 필요하고, 여기서 확률이 결부된다. 그러나 상태를 규정하는 것은 상태함수로서 끝이고, 그 자체는 결정론적으로 움직인다. 이런 점에서 보면 양자역학이 결정론이 아니라는 건 잘못된 생각이다. 양자역학도 어디까지나 결정론이고, 이와 달리 혼돈은 고전역학에서 태동했지만 예측불가능성으로 결정론을 보완해야 한다고 본다.
이런 점에서 보면 혼돈이란 자연현상의 해석에 특별한 영향을 주었다. 어떤 자연현상의 해석에서는 물론 양자역학의 영향이 크지만, 결정론이란 기본적인 전제의 반성에는 혼돈이론이 큰 영향을 줬다고 할 수 있다. 21세기에는 복잡성(complexity)과 복잡계(complex system) 현상이 자연의 해석에 중요한 역할을 하리라 예상되는데, 혼돈이론을 포함한 비선형동역학이 그 중의 한 축을 담당할 것이다.
혼돈이론은 물리학 안의 구체적인 연구 분야 보다는 도리어 물리학 바깥에 끼친 영향이 더 크다. 사회과학의 여러 분야에서나 예술 분야에 영향을 꽤 줬다. 유명한 경제학자 중에서 크루그먼(Paul R. Krugman)이라고 있다. 그는 혼돈이론을 많이 공부했다. ≪자기조직의 경제(The Self-Organizing Economy)≫라는 복잡계 관점에서 쓴 저서가 있다. 공학에도 많은 응용이 되고 있어서 혼돈 칩(chaos chip)이니 혼돈 제어(chaos control) 같은 용어가 있고, 우리나라에서도 카오스라는 세탁기가 판매되기도 했다.