운동방정식과 같은 계의 특성을 나타내는 기초방정식이 비선형 방정식으로 나타내지는 현상에 대한 문제를 말하고, 비선형진동, 유한변형, 비탄성적인 변형, 일반 유체의 운동 등이 이에 해당하고, 중첩 원리가 성립되지 않고, 선형문제에 비하여 취급이 극히 곤란하게 된다.
비선형미분방정식
지금까지 살펴본 내용을 통해 선형방정식은 몇 가지 특별한 규칙을 가지고 있음을 알 수 있다.
이를테면 미지함수 y, y′, y″ 등은 1보다 큰 지수로 거듭제곱 하지 않으며, 분수의 분모에 배치하지 않고, y×y′가 허용되지 않는다.
어떤 의미에서 곱해진 두 미지함수가 미지함수를 제곱한 것으로 생각할 수 있기 때문이다. 또 미지함수들이 사인함수 같은 다른 함수 내에 존재하지 않는다.
그러나 비선형미분방정식은 많은 부분에서 다르다.
비선형미분방정식은 미지함수에 대하여 지수가 2인 거듭제곱(y′=y2)과 y×y′=x를 허용하며, 심지어 y′=xsiny와 같이 다른 함수 내에 놓이는 경우도 허용한다.
따라서 비선형미분방정식은 선형미분방정식만큼 해결하기가 쉽지 않다.
그렇다고 해서 중요하지 않다는 것을 의미하는 것은 아니다.
사실 비선형미분방정식은 실생활 문제를 설명할 때 매우 현실적이어서 많은 분야에서 수학자와 과학자들의 관심을 받고 있으며, 여러 가지 문제 해결에 도전하고 있다.
비선형 방정식
요즘 우리나라는 벌써 총선열기로 나라전체가 뜨거운 용광로 같은 분위기이다. 여야 모두 정국을 자기들이 유리한 방법으로 설명하기 위한 안간힘을 쓰고 있다. 왜냐하면 어떤 현상이 전혀 예측 불가능한 일로 치닫는 일이 종종 일어나기 때문이다. 왜 이런 현상이 생기는지 그 이유만 알 수 있다면, 정치하기도 좋으련만 아직도 접근하기 어려운 가설들이 존재하기 때문이리라.
수학자들은 지금까지 매우 복잡해 보이는 현상이라도 숨겨져 있는 근본 원리는 매우 단순할 것이라 생각해 왔다. 이런 생각은 갈릴 레오와 뉴우턴 이래 성공을 거두어 금세기의 중요한 업적인 양자 역학과 아인슈타인의 상대성 이론에까지 이르게 되었다. 예를 들어 물체의 운동을 기술할 때 우리는 많은 실제적 사실들은 덜 중요하다고 무시하여 단순화된 운동방정식을 세우고 그 방정식을 풀어서 그 물체의 미래 상태를 예측한다. 이때 사용되는 방정식이 선형 방정식이며, 무시된 사실들은 주로 비선형적인 항들이다.
학자들은 오랫동안 비선형 항들을 포함하는 방정식들은 거의 풀지 못했기 때문에 관심의 대상에서 제외되어 왔다. 여기서 선형 방정식이란 그 방정식을 푼 해들을 서로 더하거나 뺀 것들도 또한 그 방정식의 해가 되는 경우를 말한다. 그래서 어떤 선형 방정식이 몇 개의 해를 가지면 그 방정식은 동시에 수많은 해들을 가진다. 보통 방정식의 어떤 해에 초기 조건이라 부르는 값을 대입하면 결과가 결정된다.
선형 방정식의 경우 두개의 비슷한 값을 대입하면 비슷한 결과들을 얻는다. 이런 선형 방정식들을 이용하여 현상을 설명하려는 접근 방법은 아주 성공적이어서 현대 과학문명의 대부분이 이 방법에 의존하여 발전해 왔다. 프랑스의 수학자인 라플라스는 나에게 우주의 모든 입자들의 위치와 속도를 주면 우주의 장래를 예측할 수 있다고 장담하기도 했다.
그러나 아직도 많은 현상들이 선형 방정식으로는 잘 설명되지 않는다. 물이 끓는 현상, 회오리바람이나 태풍, 갑작스런 전염병의 퍼짐, 여론의 급반전, 특정한 생물의 개체수의 늘어남과 줄어 듬 등, 기타 많은 현상들은 전혀 이해할 수 없었다. 이런 현상들의 특징은 작용하는 대상의 수가 많고 그들이 매우 복잡하고 불규칙적인 운동을 한다는 점이다.
즉 이 현상들은 선형이 아니라 비선형적인 방정식들로만 표현될 수 있다는 것이다. 이런 경우 두 개의 아주 비슷한 초기 조건들을 대입해도 전혀 비슷한 결과를 얻을 수 없다. 이것은 그때까지 알려진 방법으로는 풀 수 없는 방정식이었다.
그러나, 20세기 초반에 프랑스의 위대한 수학자이며 물리학자인 앙리 포앙까레는 기하학적 방법을 이용하여 비선형 방정식의 성질들을 연구하는 방법을 생각해 냈으나 엄청난 양의 반복 계산을 필요로 했기 때문에 별로 실용화되지는 못했으나 빠른 컴퓨터의 발달에 힘입어 1963년에 기상학자인 에드워드 로렌츠는 지금까지 잘 알려져 있었지만 풀지 못하던 기상 현상에 대한 방정식을 단순화하여 컴퓨터를 사용해 풀었을 때 예상할 수 없었던 결과를 얻었다. 계산결과가 초기 조건에 따라 극도로 민감하게 변하며, 위상공간에서 별난 끌개(strange attractor)라 부르는 묘한 형태를 보여주었다.
위상공간이란 우리가 흔히 사용하는 삼차원 공간과는 달리 움직이는 물체의 위치와 속도를 각각 좌표로 표현하는 추상공간이다. 이 위상공간에서는 일정한 진동을 하는 물체는 일반적으로 타원의 궤도를 그린다. 기상 방정식의 계산 결과가 초기 조건의 작은 변화에도 민감하게 바뀐다는 것은 우리가 슈퍼컴퓨터로도 기상예보를 정확하게 하지 못하는 근본적 이유가 된다. 즉 기상 방정식이 비선형 방정식이기 때문이다. 이러한 예측할 수 없는, 불규칙한, 혼란한 현상을 혼돈(Chaos) 현상이라 부르며, 지금까지의 무작위적(random) 현상과 구별된다.