인간은 왜 실수를 하는가?

[이덕하]

인간은 왜 실수를 하는가?

이덕하

2010-04-23

머리말

실수는 내 마음 한 켠에서 조그만 자리를 차지하고 있던 화두였다. 나는 실수에 대해 본격적으로 다룬 글을 단 한 편만 읽어보았다. 그것은 프로이트에게 뭔가를 건질 수 있을 것이라는 헛된 기대를 품었을 때 읽었던 『일상생활의 정신병리학』이다.

오늘 「튜링 테스트 - 위키백과 中」이라는 글을 읽게 되었는데 이것이 계기가 되어서 약간의 생각을 하게 되었고 실수에 대해 뭔가 써야겠다는 생각이 들었다.

http://theacro.com/zbxe/?document_srl=159111

내 기억이 맞다면 이 글에서 제시한 아이디어는 내가 생각해낸 것이다. 하지만 쉽게 생각할 수 있는 것들이기 때문에 이미 다른 사람이 다 이야기했던 것일 가능성이 크다.

실수 때문에 인간이 위대하다?

과학자나 기술자가 실수 때문에 위대한 발견이나 발명을 하게 되는 예가 많이 있었다고 한다. 하지만 여기에서 위대한 것은 실수 자체라기보다는 실수를 해서 나온 결과에 대한 성찰이다.

물론 자연 선택의 재료를 제공하는 돌연변이의 역할 정도를 인간의 실수가 제공한다고 볼 수는 있을 것이다.

튜링 테스트와 실수

튜링 테스트를 할 때 78645648975415487 * 4864534186753415 를 질문했는데 곧바로 정답을 이야기했다면 누구나 상대가 (암산 천재라는 특수한 경우를 무시한다면) 컴퓨터라고 생각할 것이다.

그렇다고 컴퓨터가 자신의 정체를 숨길 수 없는 것은 아니라는 것이 튜링의 생각이었다. 컴퓨터는 일부러 답을 늦게 이야기하고 가끔은 틀림으로써 자신의 정체를 속일 수 있다.

자연 선택과 실수

실수는 부적응적이다. 즉 실수하는 개체보다 실수하지 않는 개체가 더 잘 번식할 가능성이 높다. 따라서 자연 선택이 일부러 실수를 하도록 인간을 설계했을 리가 없다(자연 선택을 충분히 잘 아는 사람은 의인화 때문에 오해하지는 않을 것이다).

그럼에도 불구하고 인간이 실수를 하는 이유는 실수라는 대가로 뭔가 더 큰 것을 얻을 수 있었기 때문일 것이다.

머리가 커서 자궁에서 밖으로 나올 때 힘을 빼는 것은 적응적이지 않다. 그럼에도 불구하고 머리가 커지는 방향으로 진화한 이유는 뇌가 크면 출산 시의 비용을 상쇄하고도 남을 이득을 얻을 수 있었기 때문일 것이다. 실수의 경우도 마찬가지였을 것이다.

두 개의 기적: 학습과 병렬 처리

나는 실수 때문에 인간이 위대한 것이 아니라 인간이 위대하기 때문에 실수를 한다고 생각한다. 현재의 컴퓨터에 비해 인간은 적어도 두 가지 위대한 일을 해내고 있다.

첫째, 컴퓨터도 학습을 하기는 하지만 인간에 비하면 아무 것도 아니다. 인간의 학습 능력은 놀랍다. 인간은 아예 회로를 새로 만들어낸다. 피아노를 미친 듯이 배우면 뇌 속에 피아노 연주 메커니즘이 새로 생기는 것이다.

둘째, 병렬 처리 컴퓨터도 있긴 하지만 인간에 비하면 아무 것도 아니다. 뇌는 쉬지 않고 시각 정보를 처리한다. 그러다가 뱀 형상과 비슷한 것이 나타나면 저수준 처리에서 이미 감지하고 뇌의 다른 곳에 알려준다고 한다. 뇌는 쉬지 않고 청각 정보를 처리한다. 그런 처리 중에는 음성과 비음성을 구분하여 음성일 때 더 주목하도록 하는 것도 있다. 이런 것들 말고도 인간의 뇌 속에서는 온갖 것들이 동시에 일어난다. 인간의 경우 병렬 처리되는 프로세스의 수가 많을 뿐 아니라 수 많은 프로세스들이 서로 엄청나게 복잡하게 상호작용한다.

기적의 대가

현대의 컴퓨터 기술에 비추어 볼 때 인간처럼 학습을 하고 병렬 처리를 하면서도 다운이 되지 않는 것이 놀랍다. 왜 인간이 실수를 하는지를 따지기보다 왜 인간이 다운 되지 않는지를 먼저 따져야 할 것이다.

기계가 복잡하고 정교할수록 고장도 잘 나고 오작동할 때도 많다. 인간처럼 엄청나게 복잡하고 정교한 기계가 가끔 오작동하는 것은 놀라운 일이 아니다. 인간이 학습과 병렬 처리라는 위대한 일을 함에도 불구하고 다운이 되지 않으며 실수를 그 정도 밖에 안 하는 것이 놀라운 일이다.

실수가 학습과 병렬 처리라는 기적의 대가라는 가설을 약간은 뒷받침하는 것들이 있다.

첫째, 선천적 메커니즘보다 학습으로 만들어진 후천적 메커니즘에서 실수가 더 잘 일어난다. 선천적 시각 메커니즘에서 실수를 하는 경우는 사실상 없어 보인다(나는 착시를 실수 개념에 포함시키지 않을 것이다). 반면 후천적으로 만들어진 메커니즘과 관련된 사칙연산의 경우에는 실수를 하는 경우가 꽤 있다.

둘째, 어떤 일을 할 때 옆에서 누가 깐죽 대면 실수를 할 가능성이 높아진다. 병렬 처리를 위한 부하가 커지면 실수를 많이 하는 것이다.

실수를 시뮬레이션할 필요가 없다

만약 인공 지능을 만들 때 현재 컴퓨터에서 흔히 쓰는 사칙 연산 함수(function, procedure)를 만들어서 쓴다면 적어도 사칙 연산을 할 때에는 컴퓨터가 실수를 하지 않을 것이다. 그렇다면 튜링 테스트를 할 때 컴퓨터의 정체를 숨기려면 난수 발생기를 이용해서 실수를 시뮬레이션해야 할 것이다.

하지만 정말로 인간의 마음을 제대로 시뮬레이션한다면 굳이 그럴 필요가 없을 것 같다. 인간의 경우 선천적 사칙 연산 메커니즘이 없다. 적어도 48754 + 75628 와 같은 계산을 하는 메커니즘을 선천적으로 타고나지는 않는다. 문명국에서 인간이 그런 계산을 할 줄 아는 이유는 학습의 결과로 만들어지는 모종의 회로가 있기 때문이다.

인간을 제대로 시뮬레이션하려면 이런 것도 제대로 흉내내야 한다. 그리고 그런 것도 흉내 내려고 하면 인공 지능이 실수를 하지 않아서 문제가 아니라 인간처럼 별로 실수를 하지 않도록 만드는 것이 너무 어려워서 문제일 것이다.

실수하지 않는 기계

인간보다 훨씬 단순한 현재의 기계는 실수를 하지 않는다. 인공 지능이 엄청나게 발전하면 인간만큼 똑똑한 컴퓨터를 만들 수 있을 것이다. 그 때 만들어진 인공 지능은 아마 인간만큼 실수를 할 것이다. 일부러 실수를 하도록 만들었기 때문이 아니라 실수를 아예 안 하도록 만드는 것이 너무 어렵기 때문일 것이다.

거기에서 인공 지능이 더 발달하면 인간보다 더 똑똑하거나 인간보다 덜 실수하는 컴퓨터를 만들 수 있을 것이다. 물론 인간보다 더 똑똑하면서도 실수도 덜 하는 컴퓨터를 만드는 것도 가능할 것이다.

인간은 지능의 극한이 아니다. 온갖 우연한 사건들이 개입된 진화 역사의 산물일 뿐이다. 따라서 인간보다 더 똑똑하면서도 실수도 덜 하는 생물 또는 인공 지능이 불가능할 근본적인 이유는 없다.

[크림치즈베이글]

인간이 왜 실수를 하는가에 대해 저는 다음과 같이 조금 다른 답변을 내놓겠습니다.

"실수하는 경우의 수가 실수하지 않는 경우의 수 보다 더 많기 때문에"

이것은 사실상, 열역학 제 2법칙의 또 다른 표현입니다. 인간도 물질로 구성되어 있고 모든 물질은 열역학 제2법칙의 지배를 받기 때문에 인간도 열역학 제2법칙의 지배를 받는데, 인간이 실수하는 경우가 바로 여기에 해당한다는거죠.

[크림치즈베이글]

이 내용은, 덕하님이 다음과 같이 표현하신 부분에 이미 간접적으로 드러나 있습니다.
"왜 인간이 실수를 하는지를 따지기보다 왜 인간이 다운 되지 않는지를 먼저 따져야 할 것이다."


제가 이런 답을 내놓으면 그럼, 왜 인간이 실수만 반복적으로 연발하지 않느냐..(열역학 제 2법칙에 의하면) 란 질문이 나올법도 한데, 여기에 바로 "적응"개념이 중요한 역할을 한다고 생각합니다. 적응은 아주 중대한 실수는 걸러내지만, 사소한 실수/우연한 실수는 그대로 보존하는 체로 작용한다고 보는겁니다.

[크림치즈베이글]

매우 중대한 실수를 반복하는 사람은 자연으로부터 선택될 수 없었지만, 적절한 수준에서의 실수를 가끔씩 우연적으로 발생시키는 사람은 그렇지 않았을거란 거죠. 적응은 중대한 실수와 사소한 실수, 빈번한 실수와 가끔씩 일어나는 실수간의 적절한 균형점을 유지시키는 역할을 했으리라 봅니다.

이 두 메커니즘의 결합...즉 열역학 제2법칙+적응이 인간을 "실수를 아예 안하는것도 아니고, 실수를 매우 빈번하게 반복하지도 않으면서도, 어느정도까지는 실수를 하게하는" 존재로 만들었다.. 제 생각은 그렇습니다.

[크림치즈베이글]

조금 더 명확히 하자면, 인간은 엔트로피가 증가한다는 법칙 때문에 어쩔 수 없이 실수하게끔 되어 있는데, 심각한 실수는 추후 적응에 의해 제거되었지만 사소한 실수는 진화적으로 중립이었기 때문에 그대로 남았다는 결론~

[강규영]

크림님 대답도 낮은 차원의 설명으로 적절하겠으나 더 상위 수준의 설명이 있을 수도 있겠죠. 몇 가지를 나열해보면:

1) 발생적/유전적제약, 진화적시간지연, 활용가능한 cue 부족 등으로 인해 정확한 algorithm이 획득되지 못한 경우
2) algorithm에 비해 heuristics가 유리하기 때문에 만들어진 적응(기거렌쩌)이 있을 시 이에 따른 부산물로써의 실수
3) 실수를 하는 것이 적응적으로 유리하기 때문에 선택된 적응으로써의 실수
4) 다른 개체(종간 혹은 종내)의 실수를 유도하는 적응에 의해 나타나는 실수

등등.

쉬운 말로 하면: 1) 어쩔 수 없어서, 2) 실수 좀 하는게 경제적이라, 3) 실수를 해야만해서, 4) 남이 실수를 하게 유도해서