동역학계 이론에서, 혼돈(混沌, 영어: chaos) 또는 카오스(χάος)는 특정 동역학계의 시간 변화가 초기 조건에 지수적으로 민감하며, 시간 변화에 따른 궤도가 매우 복잡한 형태를 보이는 현상이다. 혼돈 이론(混沌理論, 영어: chaos theory 케이오스 시어리[*]) 또는 카오스 이론은 혼돈계를 연구하는 수학 분야이다.
비선형 동역학계는 다음과 같은 다양한 현상을 보일 수 있다.
나타나는 행태의 종류는 계의 초기조건과 존재하는 매개변수의 값에 따라서 결정된다. 혼돈계의 경우 (준)주기 궤도 · 팽창 따위의 현상을 보이지 않으며 매우 복잡한 궤도를 보인다.
정의
혼돈계(영어: chaotic dynamical system)는 다음 세 성질들을 만족시키는 동역학계
- 초기 조건에 민감해야 한다.
- 위상 혼합성을 보인다.
- 조밀
각 조건은 구체적으로 다음과 같다.
초기 조건에 민감(영어: sensitivity to initial conditions)하다는 것은 랴푸노프 지수나비 효과
는 초기 조건에 민감하지만, 혼돈적이지 않다.)
위상 혼합성(영어: topological mixing)이란 다음과 같다. 위상 공간
위의 자기 연속 함수
로 주어지는 이산 시간 동역학계

에서, 임의의 열린집합
에 대하여, 다음 조건을 만족시키는 자연수
가 존재한다면, 이 이산 시간 동역학계가 위상 혼합성을 보인다고 한다.

즉,
이상의 시간이 지나면,
의 시간 변화는
와 서로 혼합되게 된다. 마찬가지로, 연속 시간 동역학계

의 경우,

가 되는 시간
이 존재하여야 한다.
동역학계의 궤도(영어: orbit)는 주어진 초기 조건의 시간 변화들로 구성된 부분 집합이다. 주기적 궤도(영어: periodic orbit)는 궤도 가운데, 일정한 시간이 지나면 원점으로 돌아오는 것이다. 조밀한 주기적 궤도들(영어: dense periodic orbits)을 갖는다는 것은 모든 주기적 궤도들의 합집합이 조밀 집합
성질
차원
연속 시간 동역학계의 경우, 푸앵카레-벤딕손 정리
이산 시간 동역학계의 경우 이러한 제약이 없다. 예를 들어, 적절한 매개 변수에서의 로지스틱 사상
샤르코우시키 정리와 리-요크 정리
이 부분의 본문은 샤르코우시키 정리리-요크 정리([李]-Yorke定理, 영어: Li–Yorke theorem)[1] 에 따르면, 주기 3의 궤도를 갖는 1차원 이산 시간 동역학계

는 리-요크 혼돈(영어: Li–Yorke chaos)이라는 현상을 보인다. 이는 위에서 정의한 일반적인 혼돈의 정의보다 더 약한 성질이다.
이와 관련된 정리로 샤르코우시키 정리(Шарковский定理, 영어: Sharkovskii’s theorem)가 있다. 이는 올렉산드르 미콜라이오비치 샤르코우시키(우크라이나어: Олекса́ндр Миколайович Шарко́вський, 러시아어: Алекса́ндр Никола́евич Шарко́вский 알렉산드르 니콜라예비치 샤르콥스키[*])가 1964년에 증명하였다.[2]
끌개
이 부분의 본문은 끌개혼돈 운동 또는 어떤 형태의 운동이라도 시각적으로 표시하는 방법 중 한가지는 운동의 위상도
한 계의 위상도는 계의 초기조건에 (그리고 매개변수의 값에) 따라 바뀌지만 대개는 일정한 운동궤적 주위의 초기조건에 대해서는 마치 그 운동궤적에 이끌리듯이 같은 궤적에 도달하는 경우가 많다. 이렇게 이끄는 운동은 적절하게도 그 계의 "끌개
위에서 언급된 운동 형태 중 대부분은 점(고정점)이나 원형 곡선(극한 주기 궤도)등의 아주 단순한 형태의 끌개를 보이지만 혼돈 운동은 "야릇한 끌개에드워드 노턴 로렌즈의 기상계를 본뜬 단순한 3차원 본뜨기는 유명한 로렌즈 끌개로지스틱 본뜨기처럼 주기배증의 혼돈경로를 따르는 뢰슬러 본뜨기
야릇한 끌개는 프랙털
예
혼돈계의 대표적인 예는 다음이 있다.
- 이산 시간 혼돈계
- 연속 시간 혼돈계
- 로렌즈 방정식
- 추아 회로
- 뢰슬러 끌개(영어: Rössler attractor)
- 판데르폴 진동자(영어: Van der Pol oscillator)
- 다양한 모양의 평면 구역 위에서의 당구 동역학계(영어: dynamical billiards). 혼돈계가 되는 당구장의 모양으로는 로런츠 기체(영어: Lorentz gas, 정사각형 속에서 원을 제거한 것)와 부니모비치 스타디움(영어: Bunimovich stadium, 직사각형 양쪽에 반원을 붙인 것) 등이 있다.
- 삼체 문제와 일반적인 다체 문제
혼돈계가 아닌 계
실수 지수 함수

는 양의 랴푸노프 지수 1을 갖지만, 위상 혼합성이나 조밀한 주기적 궤도를 갖지 않으므로 혼돈계가 아니다.
응용
혼돈 현상은 나비 효과로 잘 알려져 있으며, 혼돈 이론은 지구의 대기, 판 구조론, 경제/인구 현상, 다중성계나비 효과"로 나비의 날갯짓에 의한 대기의 미소한 변화가 시간이 흐름에 따라 증폭되어 토네이도
또 다른 혼돈 운동의 잘 알려진 예로 염료 색의 섞임 현상과 공기의 난기류
역사
19세기
혼돈 이론의 시작은 19세기까지 거슬러 올라간다. 앙리 푸앵카레는 1880년대에 삼체 문제푸앵카레-벤딕손 정리[3] 자크 아다마르는 1898년에 종수 2의 리만 곡면 위의 측지선이바르 오토 벤딕손이 1901년에 푸앵카레-벤딕손 정리[4]
20세기 초
20세기 초에 비선형 동역학계의 연구가 발달하기 시작하였다. 이들은 초창기에는 대개 물리학 · 공학에서 등장하는 비선형 미분 방정식들을 다루었지만, 이들이 공통적으로 보이는 성질들이 점차 부각되기 시작하였다.
조지 데이비드 버코프는 혼돈과 밀접하게 연관된 에르고딕성을 연구하였고, 버코프 에르고딕 정리안드레이 콜모고로프는 1941년에 유체 역학의 난류를 연구하였고,[5] 또 1954년에 미세한 비선형성에 대한 콜모고로프-아르놀트-모저 정리[6] 메리 카트라이트와 존 이든저 리틀우드는 1945년에 무선 공학에서 자연스럽게 등장하는 판데르폴 진동자[7] 스티븐 스메일은 1960년에 비선형 동역학계를 모스 이론[8]
20세기 후반
에드워드 노턴 로렌즈는 1961년에 기상학 컴퓨터 시뮬레이션을 연구하던 도중 로렌즈 방정식의 야릇한 끌개[9] 1963년에 브누아 망델브로는 프랙털 기하학을 도입하였으며,[10] 이는 야릇한 끌개중국어: 李天岩, 병음: Lǐ Tiānyán, 한자음: 이천암, 영어: Tien-Yien Li)과 제임스 요크(영어: James A. Yorke)는 "혼돈"(영어: chaos 케이오스[*])이라는 용어를 전문 용어로 최초로 사용하였다.[1] 이는 고대 그리스어: χάος 카오스[*]에서 유래하며, 원래 그리스 신화에서 우주 태초의 상태 (또는 그 의인화)독일어: Otto Eberhard Rössler)는 연속 시간 혼돈계인 뢰슬러 끌개[11] 1978년에 미첼 파이겐바움은 파이겐바움 상수
1987년에 제임스 글리크(영어: James Gleick, IPA: [dʒeɪmz ɡliːk])는 대중 교양 서적 《카오스: 새로운 과학의 출현》(영어: Chaos: Making a New Science)을 출판하여, 혼돈 이론을 대중화하였다.[12][13]