양자역학과 불교 : 파동과 입자의 이중성과 무아의 연기(緣起) / 양형진

[문문]

양자역학과 불교 : 파동과 입자의 이중성과 무아의 연기(緣起) / 양형진

• 기자명 양형진 
•  입력 2024.09.06 20:54
•  수정 2024.11.11 22:21
•  댓글 0

바로가기 복사하기 본문 글씨 줄이기 본문 글씨 키우기

SNS 기사보내기페이스북(으)로 기사보내기 트위터(으)로 기사보내기 카카오스토리(으)로 기사보내기 URL복사(으)로 기사보내기 이메일(으)로 기사보내기 다른 공유 찾기 기사스크랩하기

특집 | 불교로 읽는 과학, 과학으로 읽는 불교

개요

양자역학은 최근 주목받고 있는 양자컴퓨터와 양자정보이론을 포함하여 현대물리학의 모든 영역에서 기초가 된다. 양자역학은 뉴턴역학과 상당히 다른 구조를 갖는데, 그 대부분은 측정과 연관돼 있다. 이 글에서는 파동과 입자의 이중성(duality)과 스핀 측정에서 나타나는 측정 결과의 범주를 논의하고자 한다. 이 범주는 대상과 무관하게 관측자의 의도로 설정된다. 양자역학에서는 관측자가 측정 결과의 범주를 설정하고 그 범주 안에서 대상의 모습이 나타난다. 대상의 상태를 가감 없이 객관적으로 드러내야 한다는 측정에 대한 우리의 소박한 믿음은 여기서 무너진다. 이에 이어, 관측자가 참여하는 측정의 이런 구조는 양자역학뿐 아니라 일상의 세계에서도 마찬가지임을 논의하고자 한다. 이로써 현상은 대상 자체가 그대로 드러나는 것이 아니라, 주관이 객관과 어떤 연기적(緣起的) 맥락을 형성하느냐에 따라 달라진다는 것을 살펴보고자 한다. 그러므로 연기에 의해 색성향미촉법(色聲響味觸法)이 또렷이 나타나도 무색성향미촉법(無色聲響味觸法)이고, 업(業)에 의해 수많은 현상이 나타나도 업자(業者)가 없는 무아(無我)의 연기공(緣起空)임을 논하고자 한다.

1. 양자가설과 양자역학

영(Thomas Young)이 이중슬릿을 이용하여 빛이 간섭(inter-ference)한다는 사실을 밝힌 이후, 빛이 파동이라는 것은 자명했다. 빛이 전자기 파동이라는 사실은 고전 전자기학인 맥스웰 방정식에 의해 이론적으로 설명되고, 헤르츠의 실험으로 확인됐다. 이처럼 빛은 파동의 전형적인 현상인 간섭과 회절(diffraction)을 보여주므로, 빛이 파동이라는 것을 아무도 의심하지 않았다. 그러나 흑체복사(blackbody radiation)나 광전효과(photoelectric effect), 콤프턴 효과(Compton effect)처럼 고전 전자기학의 파동으로는 설명할 수 없는 현상이 있음을 알게 됐다. 이를 설명하기 위해 플랑크(Max Planck, 1858~1947)는 1900년에 양자(quantum)가설을 제안했다.

양자는 우리말로는 ‘덩어리’ 혹은 ‘알갱이’라고 할 수 있을 것이다. 전자, 양성자, 중성자, 소립자, 원자, 빛 알갱이인 광자(光子, photon) 등이 모두 양자다. 양자역학은 우주가 이런 알갱이로 이루어져 있다는 가설에서 출발한다. 탄소 2kg에 10조 곱하기 10조 개의 탄소 원자가 들어 있을 정도로 양자는 아주 작다. 원자가 이렇게 작으므로 우리 감각기관을 통해 원자를 보거나 만지는 것은 불가능하다. 전구가 30와트의 노란빛을 발산한다면 1초 동안에 100억 곱하기 100억 개의 광자가 방출된다. 이처럼 광자 수가 많다는 것은 광자 하나의 에너지가 그만큼 작다는 것이다. 이렇게 미세하므로 우리는 빛을 알갱이라고 느끼지 못한다.

양자가설에서 출발하는 양자역학은 미시세계에서의 동역학(dynamics)을 기술하는 물리학의 기본 이론이며, 지금까지 인류가 알아낸 가장 정확한 과학이론이라고 알려져 있다. 양자역학은 입자물리, 원자물리, 고체물리, 양자장(quantum field) 이론, 양자화학 등 거의 모든 물리학 분야의 기초가 된다. 양자가설을 이용하여 흑체복사와 광전효과와 콤프턴 효과가 설명됐다. 이런 현상은 빛을 양자라고 해야만 설명할 수 있다. 양자역학은 양자컴퓨터의 작동 원리를 제공하고, 양자암호와 양자통신을 아우르는 양자정보이론의 기초가 되기도 한다.

2. 파동과 입자의 이중성 

파동과 입자의 이중성

고전물리학에서 입자와 파동은 그 물리적 속성이 전혀 다르다. 이 둘은 서로 배타적인 개념이어서, 입자는 파동처럼 행동할 수 없고 파동은 입자처럼 행동할 수 없다. 입자인 전자는 파동처럼 행동할 수 없고, 파동인 빛은 입자처럼 행동할 수 없다. 이와 전혀 다른 상황이 양자역학에서 전개됐다. 양자역학은 빛을 입자라고 가정하는 양자가설에서 출발한다. 파동이라고 생각했던 빛이 때로는 입자처럼 행동한다는 것이다. 이와 반대로 이전에 입자라고 생각했던 전자는 특정한 상황에서는 회절무늬를 보이면서 파동처럼 행동한다. 이처럼 어떤 상황이나 맥락에서 관측하느냐에 따라, 때로는 입자처럼 행동하기도 하고 때로는 파동처럼 행동하기도 한다. 이를 파동과 입자의 이중성(wave-particle duality)이라고 한다.

광전효과에서는 빛이 입자처럼 행동하더라도, 이중슬릿 실험을 하면 빛은 파동처럼 행동한다. 이는 빛이 사실은 입자인데, 과거에 파동이라고 잘못 알았던 게 아니라는 것이다. 그렇다면 문제는 간단하다. 고전물리학의 오류를 인정하고 바로잡으면 그만이기 때문이다. 고전물리학에서는 빛이 파동이었지만, 양자역학에서는 빛이 입자라는 것이 아니다. 고전물리학에서는 빛이 파동처럼 행동하는 현상만 알았지만, 빛이 입자처럼 행동하는 현상을 새롭게 알게 된 것이다. 이를 설명하기 위해, 플랑크가 양자가설을 세우면서 양자역학이 시작됐지만, 지금도 거의 모든 상황에서 빛은 파동처럼 행동한다. 

입자이기 때문에 입자처럼 행동한 것이 아니다

광전효과를 통해 이중성을 살펴보자. 광전효과란 빛을 쪼이면 전류가 흐르는 현상이다. 원자에 갇혀 있던 전자가 빛 에너지를 받아서 원자를 탈출하고, 이 자유전자가 움직이면서 전류가 흐른다. 만약 빛이 파동이라면, 아주 오랫동안 빛 에너지를 모아야 전자가 탈출할 수 있지만, 실제로는 빛을 쬐고 10억분의 1초가 지나지 않아 전자가 튀어나온다. 빛 에너지가 파동처럼 공간에 퍼져 있지 않다는 것이다. 입자처럼 한 점에 모여 있다가 고스란히 전자에 전달된다는 것이다. 광전효과가 나타나는 순간에 빛이 입자처럼 행동했다는 것이다. 그 빛은 이 순간 이전엔 파동처럼 행동했을 수 있다. 그러므로 어느 순간 입자로 행동한다고 해서 그 빛이 입자여야 하는 것은 아니다. 입자가 아니라 하더라도 그 순간 입자처럼 행동하기만 하면 된다. 바로 이 지점에서 일상적 세계와 달라진다.

일상적 세계에서 측정은 잔고 확인과 같다. 백만 원의 잔고를 확인한다는 것은 확인 전에 백만 원이 계좌에 있었다는 것이다. 일상 세계에서 측정은 측정 이전의 상태가 무엇인지를 말해준다. 이 명백한 일이 양자역학에서는 달라진다. 지금 입자로 측정됐다고 해서 조금 전에도 입자여야 하는 것은 아니다. 측정하기 전에 입자여서 입자로 측정되는 것이 아니고, 본질적으로 입자여서 입자처럼 행동하는 것도 아니다. 단지 어떤 특정한 맥락에서 입자로 행동했을 뿐이다. 파동에서도 마찬가지다. 측정하기 전에 파동이었던 것도 아니고 본질적으로 파동인 것도 아니며, 단지 어떤 특정한 맥락에서 파동으로 행동했을 뿐이다. 이를 이중슬릿 실험을 통해 다시 살펴보자.

이중슬릿 실험에서의 이중성과 본질

광자로 이중슬릿 실험을 한다고 하자. 빛의 세기를 줄여서 1초에 광자 하나를 방출하는 정도로 지극히 약한 빛을 보낸다고 하자. 슬릿 두 개를 모두 열어 놓으면, 하나의 광자만 슬릿을 지나도 두 파동이 더해지는 것처럼 간섭무늬가 생긴다. 이는 실험적 사실이다. 이 경우엔 두 슬릿이 모두 열려 있으므로 광자가 어느 슬릿을 지났는지를 모른다. 이처럼 광자의 경로를 모르면 간섭무늬가 생기면서 파동처럼 행동한다. 이와 달리, 슬릿 하나를 닫고 하나만 열어 놓으면 광자는 열린 슬릿을 통과할 수밖에 없다. 이처럼 광자의 경로를 알면 간섭무늬가 생기지 않으면서 입자처럼 행동한다. 이 역시 실험적 사실이다.

이를 정리해 보자. 슬릿 하나만 열어 놓으면, 간섭무늬가 사라지면서 입자성이 드러난다. 슬릿 둘을 모두 열어 놓으면, 간섭무늬가 생기면서 파동성이 드러난다. 장치를 바꾸는 데 따라 입자나 파동으로 행동한다는 것은 빛을 본질적으로 파동이나 입자라고 할 수 없다는 것을 보여준다. 

3. 스핀으로 보는 양자 측정의 구조

우리 주변에 널린 자석, 자기쌍극자

고전 전자기학에 의하면, 전하는 전기장을 만들고 전류는 자기장을 만든다. 전하의 움직임이 전류이므로, 정지한 전하는 전기장을 만들고 움직이는 전하는 자기장을 만든다. 움직임의 특별한 경우가 원운동이다. 전하가 원운동을 하거나 원형 회로에 전류가 흐르면 자기장이 만들어지면서 막대자석 같은 자석이 된다. 전자석이 좋은 예다. 지구 자기장도 지구 외핵을 흐르는 유체가 만들어 내는 것으로 알려져 있다. 지구가 큰 자석이라면 나침반은 작은 자석이다. 지구나 전자석과는 다르게, 나침반은 구성 요소의 양자역학적 특성 때문에 자석이 된다. 어떤 경우건, N극과 S극의 두 자극이 만들어지면 이를 자기쌍극자(magnetic dipole moment)라고 한다. 자기쌍극자는 우리 우주에 아주 흔히 존재한다. 가까이에는 나침반 같은 영구자석, 전자석, 지구 등이 있다. 멀게는 수많은 항성과 행성, 위성에서 자기쌍극자가 관측된다. 무엇보다 놀라운 일은 양자역학에서 나왔다. 양성자, 중성자, 전자 등의 기본입자가 자기쌍극자를 갖는다는 사실이 확인됐다. 

회전하지 않는 작은 자석 스핀

양자역학에서는 기본입자의 자기쌍극자를 기술하기 위해 스핀각운동량(spin angular momentum) 혹은 줄여서 스핀이라는 물리량을 도입한다. 각운동량은 회전하는 물체에 나타나는 물리량이다. 스핀이란 단어에도 회전한다는 의미가 있다. 이런 정황과 달리, 스핀은 회전과 전혀 상관이 없다. 전하가 공전(revolution)하거나 자전(rotation)한다는 것이 아니다. 크기가 점처럼 작은 전자는 아무리 빨리 자전해도, 관측되는 자기쌍극자를 만들어 낼 수 없다. 스핀이 공전이나 자전과 상관없다는 것은 중성자에서 명확해진다. 전하가 없는 중성자는 어떤 회전운동으로도 자기쌍극자를 만들 수 없지만, 양성자나 전자처럼 자기쌍극자를 갖는다. 이처럼 전하의 회전운동으로는 스핀을 설명할 수 없다. 양성자, 중성자, 전자 같은 기본입자는 그 자체로 자기쌍극자다. 그래서 스핀을 본질적 각운동량(intrinsic angular momentum)이라고도 한다. 스핀은 철저하게 양자역학적인 개념이다.

관측자의 의도에 따라 정해지는 측정치의 범주

기본입자인 전자의 스핀 측정을 통해 양자 측정의 특성을 살펴보자. 전자의 스핀이 향하는 방향을 측정한다고 하자. 3차원 공간에는 무한히 많은 방향이 있지만, 나를 기준으로 ‘전후’ ‘좌우’ ‘상하’의 세 방향을 생각할 수 있다. 이는 3차원 공간에서 x, y, z의 세 축에 해당한다. 일상적인 측정과 마찬가지로 양자역학에서도 측정 이전에 측정할 대상과 측정할 물리량을 먼저 선택해야 한다. 이는 관측자가 선택하는 것이다. 치타의 속도나 전자의 스핀을 측정하려는 경우, 치타나 전자가 측정할 대상이고 속도나 스핀이 측정할 물리량이다. 측정 대상을 선택하는 것은 일상적인 측정과 같지만, 물리량을 측정하는 데서는 양자역학이 일상적인 측정과 상당히 다르다. 이를 살펴보자.

먼저 전자의 스핀이 ‘상하’의 어느 방향으로 향해 있는지를 측정한다고 하자. 스핀의 ‘상하’ 방향을 측정하면, ‘위’ 혹은 ‘아래’의 방향이 관측된다. 이를 물리학에서는 ‘up’과 ‘down’이라고 한다. 왜 두 값만 나오는지는 모르지만, 전자를 측정하면 언제나 ‘up’과 ‘down’의 두 값만 나온다. 이는 다른 방향에서도 마찬가지다. 스핀의 ‘전후’ 방향을 측정하면 ‘앞’ 혹은 ‘뒤’라는 방향이 관측되고, 스핀의 ‘좌우’ 방향을 측정해도 ‘좌’ 혹은 ‘우’라는 방향이 관측된다. 이런 식으로 관측된다는 사실이 얼핏 보면 당연한 것 같지만, 고전역학과는 아주 다르다. 고전역학이라면 스핀이 위를 향하고 있을 때, 전후나 좌우 방향을 측정하면 그 갑이 0이어야 한다. 고전역학에서는 전후나 좌우 방향을 측정한다고 해서 위로 향한 스핀의 방향이 바뀌지 않기 때문이다.

측정이 대상의 상태를 바꾸지 않는다는 이 전제가 양자역학에서는 전적으로 무너진다. 양자역학은 이 점에서 고전역학과 전혀 다르다. ‘위’로 향한 스핀에 대해 ‘전후’ 방향을 측정하면, ‘앞’이나 ‘뒤’를 향한 스핀이 관측된다. 양자역학에서 ‘상하’나 ‘전후’나 ‘좌우’ 중의 하나를 관측하면, 각각 ‘위/아래’나 ‘앞/뒤’나 ‘좌/우’로 관측된다. 이처럼 이전의 상태가 어떤 것이었는지와 전혀 상관없이, 지금 무엇을 측정하느냐에 따라 측정 결과가 나온다. 고전역학과 달리 양자역학에서는 지금 무엇을 측정하는지만이 중요하다.

이는 어떤 특정한 방향을 관측하려고 하는 관측자 의도에 따라 관측 결과인 스핀 방향이 결정된다는 것을 의미하는 것이기도 하다. 제대로 된 관측이라면 관측자의 의도와 무관하게 대상의 물리적 속성이 그대로 드러나야 한다는 우리의 믿음은 여기서 무너진다. 양자 측정에서는 관측자의 의도에 따라 측정치의 범주가 설정되고, 관측을 통해 그 범주 중의 하나가 측정치로 나타난다. 

양자 측정과 힐베르트 공간

이런 실험적 사실을 체계적이고 수학적으로 정리한 것이 양자 이론이다. 이런 점에서 양자 이론이란 관측 사실을 설명하기 위한 가설 체계라고 볼 수 있다. 이 체계의 출발점은 관측자가 어떤 물리량을 측정하려고 하는지를 결정하는 것이다. 이 결정에 따라 측정하려는 물리량에 대응하는 에르미트 연산자(Hermitian operator)가 정해지고, 이 연산자의 고유치(eigenvalue)의 집합(set)과 고유치에 대응하는 고유벡터(eigenvector)의 집합이 정해진다. 이 고유벡터의 집합으로 전개되는 벡터의 집합을 힐베르트 공간(Hilbert space)이라고 한다. 고유치의 집합 중의 하나가 측정치가 된다. 이 측정된 고유치에 대응하는 고유벡터가 측정 후의 상태가 된다. 이는 측정치의 범주(category)가 고유치의 집합으로 한정된다는 것이며, 측정 후의 상태는 고유벡터의 집합으로 한정된다는 것이다. 이 모든 과정을 한마디로 줄이면, 측정하려는 물리량이 결정되면 이에 따라 측정치의 범주와 측정 후 양자 상태의 범주가 정해진다는 것이다.

어떤 물리량을 측정할지, 즉 ‘전후’ ‘좌우’ ‘상하’ 중에 어떤 측정을 할지는 관측하기 전에 관측자가 판단해서 정하는 것이다. ‘전후’ 측정을 하겠다고 결심하면 ‘앞’이나 ‘뒤’라는 측정값이 나타나고, ‘상하’ 측정을 하겠다고 결심하면 ‘위’나 ‘아래’라는 측정값이 나타난다. 관측자가 ‘전후’ 측정을 하려고 하면, ‘앞’이나 ‘뒤’라는 측정값의 범주가 결정되고 이 둘 중의 하나가 측정을 통해 나타난다. 이처럼 측정값은 관측을 통해 드러나지만, 측정값의 범주는 관측자가 어떤 물리량을 측정하는지에 따라 정해진다. 

연속적인 스핀 측정

측정값의 범주가 관측 전에 정해진다는 사실 때문에 연속적인 측정에서는 놀라운 상황이 벌어진다. 처음에 ‘전후’를 측정했고, 측정값이 ‘앞’이었다고 하자. 다시 ‘전후’를 측정하면 ‘앞’이라는 측정값이 반복해서 나타난다. 이 실험적 사실 때문에, 측정 후의 양자 상태를 ‘앞’이라고 한다. 그러면 이 전자의 스핀은 앞으로 향한 상태에 있다고 생각하게 된다. 여기까지는 그럴 수도 있다. 그런데 이 상태에 대해 ‘전후’가 아닌 다른 측정을 하면 일상적인 관점으로는 이해하기 어려운 결과가 나타난다.

‘앞’ 방향은 ‘위/아래’도 아니고 ‘좌/우’도 아니다. ‘앞’ 방향이 ‘위/아래’가 아니므로, 고전적으로 보면 두 번째로 ‘상하’를 측정했을 때 ‘위’나 ‘아래’라는 측정값이 나오면 안 된다. 그러나 ‘상하’의 2차 측정을 하면 이 측정이 설정하는 측정값의 범주인 ‘위/아래’ 중의 하나가 관측된다. 이는 ‘좌우’ 측정을 하더라도 마찬가지다. ‘좌/우’ 중의 하나가 관측된다. 어떻게 ‘앞’으로 향했던 스핀이 ‘위/아래’나 ‘좌/우’로 방향을 바꿀 수 있는가? 고전적인 관점으로는 이해하기 어렵다.

이제 세 번째로 ‘전후’ 측정을 한 번 더 한다고 하자. ‘전후’의 1차 측정에서 ‘앞’이 관측됐고, ‘상하’의 2차 측정에서 ‘위’가 관측됐다고 하자. ‘전후’의 3차 측정을 하면 ‘앞’과 ‘뒤’가 관측될 확률이 50%로 같다는 것이 실험적 사실이다. 처음 측정에서 ‘앞’으로 관측됐던 전자가 세 번째 측정에서는 ‘앞’과 ‘뒤’ 어느 방향으로도 관측된다는 것이다. 1차 측정에서 ‘앞’이 관측됐는데, 3차 측정에서 어떻게 ‘뒤’가 관측될 수 있는가? 이 역시 고전 논리로는 이해하기 어려운 일이다. 

여기엔 두 가지 원리가 개입한다. 하나는 앞에서 설명했듯이 관측자에 의해 측정치의 범주가 설정됐기 때문이다. ‘상하’의 2차 측정에서 ‘위’가 관측됐다거나, ‘전후’의 3차 측정에서 ‘앞’이나 ‘뒤’가 관측된다는 것은 무엇을 측정할지를 결정하면서 측정값의 범주가 만들어졌고 이 범주 안에서 측정치가 나타나기 때문이다. 다른 하나는 불확정성원리(uncertainty principle) 때문이다. 이를 살펴보자.

양자 측정과 불확정성 원리

태양 주위를 행성이 공전하고, 원자핵 주위를 전자가 돈다. 얼핏 보면 이 둘은 아주 비슷한 것으로 생각되지만, 행성과 달리 전자는 그 위치를 알 수 없다. 그러므로 이 둘의 궤도는 전혀 다르다. 왜 그런가? 수만 년 후에 행성의 위치가 어딘지를 아는 것은 언제나 가능하다. 이는 행성이 어떤 원리로 운행되는지를 몰랐던 뉴턴 이전의 시대에도 가능했다. 지금까지의 관측 자료만 있으면 되기 때문이다. 이와 달리 전자는 정확한 위치를 아는 것이 원리적으로 불가능하다. 위치를 측정하는 행위 때문에 위치가 변하기 때문이다. 이를 설명하는 것이 불확정성 원리(uncertainty principle)이다. 이에 따르면 위치와 속도를 명확하게 아는 것은 원리적으로 불가능하다. 위치를 명확하게 알면 알수록 속도의 불확정성이 커지고, 속도를 명확하게 알면 알수록 위치의 불확정성이 커진다. 고전역학이 전제하는 것처럼 위치를 아주 정확하게 알게 되면 속도의 불확정이 커져서 운동에너지가 무한대가 될 수도 있는데, 이는 받아들일 수 없는 상황이다. 그래서 양자역학은 측정 대상의 정확한 위치를 알 수 없으며, 이에 따라 궤적을 정확하게 아는 것도 불가능하다. 전자의 위치는 고등학교 교과서에 나오는 전자구름(electron cloud)처럼 확률분포로만 표시할 수 있다.

불확정성원리는 스핀 측정에도 적용된다. 서로 연관된 두 물리량의 상태를 동시에 알거나 규정할 수 없으므로, 스핀의 어느 한 방향이 ‘up’이나 ‘down’이라는 것을 안다면 스핀의 다른 성분이 어느 방향인지를 전혀 알 수 없게 된다. ‘전후’의 1차 측정에서 ‘앞’이 관측됐다 하더라도, ‘상하’의 2차 측정에서 ‘위’가 관측됐다는 바로 그 사실 때문에 1차 측정에서 얻은 ‘앞’이라는 정보는 사라진다. 이는 1차 측정에서 얻었던 ‘앞’이라는 정보가 관측자에게만 사라진다는 것이 아니다. 관측자만 모른다는 게 아니라, 스핀 자체를 ‘앞’이면서 동시에 ‘위’라고 한다는 것 자체가 불가능하다는 것이다. 2차 측정을 하면 1차 측정의 결과가 말 그대로 사라진다는 것이다. 그러므로 3차 측정 결과는 1차 측정 결과와 전혀 상관없다. 1차 측정 결과는 3차 측정 결과에 아무런 영향을 미치지 못한다. 그러므로 ‘전후’의 1차 측정에서 ‘앞’ 상태라는 정보를 얻었다 하더라도, 3차 측정에서 1차와 같은 ‘전후’ 측정을 하더라도 ‘뒤’ 상태가 관측될 수 있다.

4. 연기(緣起)로 나타나는 현상에서의 무색성향미촉법

파동과 입자의 이중성이나 스핀의 측정 등 양자역학에서 나타나는 현상은 고전물리학이나 일상 세계에서의 측정과 다른 양상을 보여준다. 일상의 측정에서는 측정이 측정하기 바로 전의 상태를 보여줘야 한다. 잔고 확인은 잔고를 확인하기 바로 전의 잔고를 보여준다. 특히 측정 자체가 측정 대상의 상태를 변화시키면 안 된다. 잔고를 확인했다는 사실에 의해 잔고가 달라지면 안 된다. 일상의 측정에서는 특이한 돌발 상황이 없는 한, 조금 전의 상태가 지금의 상태와 같고 지금의 상태가 조금 후의 상태로 이어진다는 믿음이 있어야 한다. 그렇지 않다면 측정 자체의 의미가 없어진다. 양자 세계가 당혹스러운 것은 이 믿음이 사라진다는 데에 있다. 양자 세계가 일상 세계와 다른 또 하나는 어떤 맥락에서 누가 관측하느냐에 따라 대상의 모습이 다르게 나타난다는 것이다. 이는 물론 측정 결과로 나타난 상태가 지속돼야 한다는 첫 번째 차이점과 깊이 연관돼 있다. 양자 측정에서의 이러한 차이를 어떻게 봐야 하는지를 논의해 보자.

양자는 파동으로 나타나도 파동이 아니고 입자로 나타나도 입자가 아니다

하나의 빛이 이중슬릿에서는 파동처럼 행동하고 흑체복사나 광전효과에서는 입자처럼 행동한다. 이중슬릿에서 파동처럼 행동하면서 흘러나온 그 빛을 금속에 쪼이면 광전효과를 일으키면서 입자처럼 행동한다. 고전물리학이나 일상적 세계관의 관점으로 보면 이해하기 어려운 상황이다. 왜 이해하기 어려운가? 우리는 어떤 존재자의 본질(essence)에 의해 그 존재자의 행동이 나온다고 생각한다. 본질이 그러므로 그런 행동이 나온다고 생각한다. 파동이기 때문에 파동처럼 행동하고, 입자이기 때문에 입자처럼 행동한다고 생각한다. 빛이 파동처럼 행동하는 것을 보면서 우리는 빛을 파동이라고 단정하고, 입자처럼 행동하는 것을 보면서 빛을 입자라고 단정하려고 한다. 행동을 보고 존재를 규정하는 것을 당연하다고 생각한다. 파동과 입자의 이중성은 이 당연함을 받아들일 수 없다는 것을 보여준다.

이중슬릿 실험을 포함하여 대부분 상황에서 빛이 파동처럼 행동하더라도, 광전효과에서는 입자처럼 행동하므로 빛을 파동이라고 할 수는 없다. 빛이 파동이라면 광전효과에서도 파동처럼 행동해야 하기 때문이다. 이는 빛이 파동이기 때문에 대부분 상황에서 파동처럼 행동하는 것이 아니라는 것이다. 광전효과에 대해서도 같은 논리를 적용할 수 있다. 광전효과에서 빛이 입자처럼 행동하더라도, 대부분 상황에서 파동처럼 행동하므로 빛을 입자라고 할 수는 없다. 빛이 입자라면 대부분 상황에서도 입자처럼 행동해야 하기 때문이다. 이는 빛이 입자이기 때문에 광전효과에서 입자처럼 행동하는 것이 아니라는 것이다. 이 두 경우를 간단히 정리하면 이렇다. 입자처럼 행동하기도 해서 파동이라고 할 수 없고, 파동처럼 행동하기도 해서 입자라고 할 수 없다는 것이다. 그럼 빛은 무엇인가? 

스핀은 위로 나타나도 위가 아니고 아래로 나타나도 아래가 아니다

빛을 통해 본 파동과 입자의 이중성 문제와 정확하게 같은 맥락에서 스핀 측정을 살펴보자. 스핀 측정은 이중성보다 더 명확하게 본질과 행동 사이의 관계를 보여준다. 스핀이 어느 방향인지 모르는 전자의 스핀을 측정한다고 하자. 삼차원 공간에서 스핀이 향할 수 있는 방향은 무한히 많으므로, 스핀이 정확하게 ‘위’나 ‘아래’ 방향을 향해 있을 확률은 거의 없다. 그러나 관측에 의하면, ‘상하’ 측정을 하여 ‘위’나 ‘아래’ 방향이 관측될 확률이 각각 2분의 1이다. 이는 스핀의 ‘상하’를 측정하여 ‘위’ 방향이 관측됐다 하더라도, 측정 전에 ‘위’ 상태였다고 할 수 없다는 것이다. 이는 빛이 이중슬릿에서 파동처럼 행동한다고 해서, 빛을 파동이라고 할 수 없다는 것과 같다. 이중성이나 스핀 측정이나 모두 측정이 측정 전의 상태가 무엇인지를 알려주지는 않는다. 고전역학이나 일상적인 측정과는 다르게, ‘위’ 방향이었기 때문에 ‘위’ 방향으로 관측되는 것이 아니고 파동이기 때문에 파동처럼 행동하는 게 아니다. 이는 연속적인 측정에서 좀 더 명확해진다. 

이전과 같이 처음에 ‘전후’를 측정했고 ‘앞’을 관측했다 하자. 다시 ‘전후’를 측정하면 ‘앞’이라는 측정 결과가 반복해서 나타난다는 실험적 사실 때문에, 이 스핀은 ‘앞’의 상태에 있다고 할 수 있다. 두 번째로 ‘상하’를 측정한다고 하자. 고전 측정이라면 ‘앞’은 ‘위’나 ‘아래’의 방향을 전혀 가지고 있지 않으므로, ‘상하’를 측정했을 때 ‘위’나 ‘아래’로 측정되면 안 된다. 그러나 양자 측정에서는 ‘위’나 ‘아래’로 측정될 확률이 각각 50%다. ‘위’의 상태였기 때문에 ‘위’로 측정되는 것이 아니다. 조금 전에 ‘앞’의 상태였는데도, ‘위’나 ‘아래’로 관측된다. 주인이 부르면 그 방향으로 개가 달려오듯이, ‘상하’ 측정을 하면 스핀이 ‘위’나 ‘아래’로 정렬하는 듯이 보이기도 한다. ‘전후’의 1차 측정에서 ‘앞’이 관측됐고, ‘상하’의 2차 측정에서 ‘위’가 관측된 상황에서 ‘전후’의 3차 측정을 다시 한다고 하자. 3차 측정에서 ‘아래’가 50%로 관측된다는 실험적 사실은 3차 측정의 결과가 이전의 측정 결과와 무관하다는 것을 보여준다. 

내가 보는 것은 객관 자체가 아니라 주관이 참여하면서 드러나는 객관

파동과 입자의 이중성이나 스핀 측정에서 나타나는 현상은 고전역학이나 일상에서의 측정과는 다른 양상을 보여준다. 빛은 광전효과라는 상황을 만나면 입자처럼 행동하고 이중슬릿 장치를 만나면 파동처럼 행동한다. 전자의 스핀은 ‘상하’를 측정하는 상황에서는 ‘위/아래’로 나타나고, ‘전후’를 측정하는 상황에서는 ‘앞/뒤’로 나타나며, ‘좌우’를 측정하는 상황에서는 ‘왼쪽/오른쪽’으로 나타난다.

이중슬릿 장치에 변화를 주면 빛의 행동이 달라진다. 두 슬릿을 모두 열어 놓으면 빛은 언제나 파동처럼 행동한다. 두 슬릿 중의 하나를 닫으면, 파동처럼 행동하던 빛이 입자처럼 행동을 바꾼다. 이처럼 내가 관측 장치를 어떻게 변화시키느냐에 따라 빛의 행동이 바뀐다. 어떤 현상이 나타나는지가 관찰자의 개입으로 결정된다는 것이다. 양자역학의 관측 결과는 객관 세계 자체가 아니라, 주관이 관여한 객관의 모습이다. 주관이 참여하면서 그 참여하는 방식에 따라 객관의 모습이 다르게 나타난다. 주관과 객관 사이에 설정된 관계의 맥락, 연기(緣起)의 맥락에 따라 객관의 모습이 다르게 나타난다.

이를 체계적으로 정리한 것이 양자역학의 이론 체계다. 스핀의 ‘상하’를 측정하려고 하면 ‘상하’ 측정에 대응하는 힐베르트 공간이 만들어진다. 이 벡터 공간은 측정 결과의 범주를 ‘위/아래’로 한정한다. 무엇을 측정하려는 것인지 관측자의 의도에 따라 측정 결과의 범주가 결정된다. 관측자가 ‘상하’ ‘전후’ ‘좌우’ 중의 어느 방식으로 측정을 하려는지에 따라 측정 결과의 범주가 각각 다르게 설정된다. 전자의 스핀 자체가 측정 결과로 나타나는 게 아니라, 관측자의 의도에 따라 설정된 범주 중의 하나가 측정 결과로 나타난다. 관측과 상관없이 존재하는 변하지 않는 실체를 알아내는 것이 측정이라고 생각하는 우리의 상식적인 관념이 양자역학에서는 성립하지 않는다. 

관측자의 의도에 따라 측정값의 범주가 정해지는 것이 스핀만은 아니다. 양자역학이 다루는 물리량이 전부 그렇다. 그러므로 양자역학의 측정은 대상의 속성을 객관적으로 그대로 드러내는 것이 아니다. 주관이 측정값의 범주를 설정하고, 그렇게 설정한 영역 안에서 대상의 모습이 나타난다. 객관적 관측이라기보다는 상호작용하면서 참여하는 관측이라고 하는 것이 양자역학의 측정을 더 타당하게 묘사하는 것일 수 있다.7)

남도봉과 북도봉으로 나타나는 참여하는 관측

우리가 사는 세계는 어떤가? 파동과 입자의 이중성은 도봉산이 나타나는 모습과 같다. 도봉은 하나지만 어느 방향에서 바라보느냐에 따라 산의 모습이 달라진다. 하나의 도봉이 북한산 백운대에서 보면 남도봉이 되고, 의정부에서 보면 북도봉이 된다. 양자는 상황에 따라 입자나 파동처럼 행동하지만 한 측정에서 입자성과 파동성이 동시에 드러나지는 않는다. 스핀은 상황에 따라 ‘위/아래’ ‘앞/뒤’ ‘왼쪽/오른쪽’의 여러 모습으로 나타나지만, 한 측정에서 여러 모습이 다 드러나지는 않는다. 어디서 보느냐에 따라 남도봉과 북도봉이 나타나지만, 어느 한 지점에서 남도봉과 북도봉을 동시에 볼 수는 없다. 백운대에서 남도봉이 나타나면 북도봉이 사라지고 의정부에서 북도봉이 나타나면 남도봉이 사라지는 것처럼, 광전효과에서 입자성이 보이면 파동성이 사라지고 이중슬릿에서 파동성이 보이면 입자성이 사라지며, 스핀을 ‘상하’로 측정하면 ‘앞/뒤’나 ‘왼쪽/오른쪽’의 모습이 사라진다.

어느 곳에 가서 도봉을 보느냐는 것은 어떤 방식으로 양자를 측정하느냐와 같다. 광전효과를 측정할 때는 입자처럼 행동하는 빛이 나타나고 이중슬릿에서는 파동처럼 행동하는 빛이 나타나며, 스핀의 ‘상하’를 측정하면 ‘위/아래’로 향한 스핀이 나타나는 것처럼, 의정부에서 보면 북도봉이 보이고 백운대에서 보면 남도봉이 보인다. 내가 어떤 측정을 하느냐에 따라 빛이나 스핀이 서로 다른 모습으로 나타나는 것처럼, 내가 어디에 가서 도봉을 보느냐에 따라 서로 다른 도봉의 모습이 나타난다. 어떤 측정을 하느냐는 대상과 상관없이 내가 결정하는 일인 것처럼, 어디에 가서 도봉을 보느냐는 도봉과 상관없이 내가 결정하는 일이다. 내가 어떤 실험적 맥락, 어떤 상황적 맥락, 어떤 연기적 맥락을 맺으면서 대상을 보려는지에 따라 입자나 파동이 나타나고, ‘위/아래’나 ‘앞/뒤’가 나타나며, 남도봉이나 북도봉이 나타난다. 양자의 세계와 같이 일상 세계에서도 어떤 참여를 하느냐, 어떤 연기적 맥락을 맺느냐에 따라 대상은 다른 모습으로 나타난다. 파동을 만나려면 이중슬릿 실험을 해야 하고, 입자를 만나려면 광전효과를 보면 되고, 스핀이 ‘위/아래’로 향한 것을 보려면 ‘상하’를 측정하면 된다. 남도봉을 보고 싶으면 백운대에 오르고 북도봉을 보고 싶으면 의정부로 가면 된다. 

사과와 무지개와 양자가 보여주는 무색성향미촉법

일상생활에서 우리에게 나타나는 것이 어떤 것인지를 살펴보자. 앞에 놓인 빨간 사과를 본다고 하자. 사과를 본다는 과정은 사과에서 붉은색 파장의 전자기파(electromagnetic wave)가 나오면서 시작된다. 전자기파가 내 눈의 수정체를 거쳐 망막에 도달하고, 그 에너지가 망막 신경을 자극하고, 이 자극을 시신경이 뇌로 전달하고, 이를 시각중추가 해석함으로써 물체의 모습과 색이 나타난다. 시각중추가 해석하기 전까지는, 전자기파의 파동과 시신경을 통해 전달되는 자극이 있을 뿐 붉은색은 어디에도 없었다. 전자기파라는 인(因)이 수정체, 망막, 시신경, 뇌 등의 연(緣)을 거치면서 안식(眼識)이라는 과(果)가 나타난 것이다. 시각중추가 해석할 수 있는 색깔이 가시광선으로 한정된다는 점에서, 우리에게 나타나는 안식도 그 관측 결과의 범주가 정해진다. 이 관측 범주의 한계 안에서 우리는 세상을 본다. 빨간색을 볼 수 없는 생명체에게는 사과가 빨갛게 보이지 않을 것이다. 그렇다면 사과는 빨간 것인가? 아니다. 빨갛게 보이더라도 사과는 빨간 게 아니다. 우리에게 빨갛게 보일 뿐이다. 빨갛게 나타난 그건 빨간 게 아니라 우리 시각중추가 빨갛게 그려낸 것이다. 빨간 사과는 없다.

무지개는 우리에게 나타나는 현상이 어떤 것인지를 보다 포괄적으로 보여준다. 태양에서 온 빛이 하늘에 떠 있는 물방울 안에서 두 번 굴절하고 한 번 반사하면서 빛이 분리된다. 이 분광의 과정을 거치면서 여러 빛깔의 빛이 서로 다른 방향으로 퍼져나간다. 어느 물방울이든 모든 색의 빛을 다 뿜어내지만, 나와 태양과 물방울의 위치가 어떻게 설정되느냐에 따라 어느 한 물방울에서 나온 여러 색 중에서 오직 한 가지 색만 보게 된다. 그 기하학적 위치 설정에 따라 무지개가 나타난다. 일곱 빛깔의 무지개가 나타나더라도 각각의 물방울은 모든 색을 다 뿜어내므로, 빨갛게 보이는 하늘의 물방울은 빨간색이 아니고 보라색으로 보이는 하늘의 물방울도 보라색이 아니다. 무지개가 7가지 색으로 보여도, 무지개를 만드는 물방울은 그 어느 색도 아니다. 모든 색이 포함된 무색(無色)이다. 빨강도 보라도 아닌 무색이지만 맺어진 연기의 맥락에 따라 빨강으로 보이기도 하고 보라로 보이기도 한다. 무색이지만 무지개가 나타난다. 무지개가 나타나는 바로 그 자리가 무색이고, 무색인 바로 그 자리에서 무지개가 나타난다. 

5. 업(業)은 있어도 업자(業者)는 없는 무아의 연기공 

주관이 설정한 범주 안에서 객관의 모습이 나타난다

양자역학과 마찬가지로, 우리 몸의 감각이 세상을 보는 데에도 측정값의 범주가 존재한다. 우리 눈은 가시광선 영역의 빛만 볼 수 있고, 우리 귀는 가청주파수 영역의 소리만 들을 수 있다. 모든 감각기관이 다 그렇다. 우리가 보는 것은 대상 자체가 아니라, 측정값의 범주 안에서 드러나는 대상의 모습이다. 감각 경험의 한계를 설정하는 이 범주는 오랜 진화 과정을 통해 형성된 것이다. 이 순간에 우리가 느끼는 감각 경험에는 수십억 년 동안 진행돼 온 감각기관의 진화 과정이 스며들어 있다. 서로 다른 생명체는 각기 다른 진화의 경로를 밟아왔기에, 감각기관이 감지하는 영역은 서로 다를 수밖에 없다. 그래서 나비가 볼 수 있는 색을 우리는 볼 수 없고, 박쥐가 들을 수 있는 소리를 우리는 듣지 못하고, 돌고래나 고등어에게 짜지 않은 바닷물이 우리에게는 짜다. 양자역학에서만 힐베르트 벡터 공간으로 관측의 범주가 설정되는 게 아니라, 우리의 일상적인 감각 경험에서도 감각의 범주가 설정돼 있다. 백운대나 의정부에 가는 것보다 훨씬 더 오랜 기간에 걸쳐 형성된 감각 범주다. 이렇게 몸에 각인된 감각 범주로 우리는 세상을 본다. 이렇게 일상적인 감각 경험에서 주관이 참여하는 정도는 양자역학에서 주관이 참여하는 정도보다 오히려 더 클 것이다. 

업은 있어도 업자는 없는 무아의 연기공

이중슬릿 실험에서 빛이 파동처럼 행동했다는 사실을 확인했다고 하더라도 빛을 파동이라고 할 수는 없다. 파동으로 보일 뿐 파동은 아니다. 광전효과에서 빛이 입자처럼 행동했다는 사실을 확인했다고 하더라도 빛을 입자라고 할 수는 없다. 입자로 보일 뿐 입자는 아니다. 스핀의 ‘상하’ 측정에서 ‘위’로 관측돼도 스핀 자체가 ‘위’는 아니다. 단지 ‘위’로 보일 뿐이다. 남도봉으로 나타나도 남도봉이 아니고 북도봉으로 나타나도 북도봉이 아니다. 다만 도봉일 뿐이다. 바닷물은 짜게 느껴지지만 짠 게 아니고, 사과는 빨갛게 보이지만 빨간 게 아니며, 무지개는 일곱 가지 색으로 나타나지만 그런 색깔의 물방울은 어디에도 없다. 

이 모두는 맥락이 설정되는 관측 경험의 범주에 의해 나타난 것이다. 보이는 모든 것은 그 자체가 아니라 내가 참여하는 연기(緣起)로 나타난 것이다. 나타나는 그게 어디에도 없으므로 무색성향미촉법(無色聲響味觸法)의 무아(無我)이고, 단지 연기에 의해 나타나므로 공(空)이다.8) 오온(五蘊)이 연기이고 오온이 공이다. 이게 세간(世間)이다. 

파동으로 나타나도 파동인 건 없고, 입자로 나타나도 입자인 건 없으며, ‘위’로 나타나도 ‘위’인 것은 없다. 빨갛게 보여도 빨간 건 없고, 짜게 느껴져도 짠 게 없으며, 남도봉과 북도봉이 나타나도 남도봉과 북도봉은 없다. 파동, 입자, 빨강, 짬, 남도봉, 북도봉이 모두 연기에 의해 나타나는 업이다. 그 모든 업이 언제나 나타나도 업자는 없다. 무아의 연기공이다. ■

양형진 yangh@korea.ac.kr

서울대 물리학과(학사, 석사), 미국 인디애나대(이론물리학 박사) 졸업. 양자정보이론 전공. 주요 논문으로 〈선과 과학에서의 평등과 차별, 중도〉 〈상대성이론과 무아와 무상〉 〈법계 연기에 대한 과학적 해석〉 〈진화하는 자연의 시공간적 연기 구조와 중도〉 등과 주요 저서로 《산하대지가 참빛이다－과학으로 보는 불교의 중심사상》 등이 있다. 현재 고려대학교 명예교수, 한국불교발전연구원장.