인류의 생존을 위해서는 기계와 멀어져야 한다!

[장성열]

산업혁명은 대량 생산을 가능하게 하였으나, 결과적으로 대량 생산은 대규모 전쟁을 낳았다.

산업혁명 시대, 노동자들은 일자리를 잃어가는 것에 분노해서 ‘러다이트운동’이라는 기계 파괴운동이 영국 전역에서 벌어졌다.

두 차례에 걸진 세계 대전은 대량생산의 끔직함을 보여준다.

핸리 포드의 자동차 대량 생산은 인류를 편리하게 해 주었지만, 결과적으로 대규모의 환경재앙을 가져다 주었다.

지금은 4차 혁명의 시대로 진입하여 더욱 편한 세상이 되었지만, 결과는 아무도 예측을 할 수 없고, 부정적인 견해가 지배적이다.

인류에게 해가 되는 명령에 반항하는 것은 올바른 동작이므로 제외한다.

단, 이런 거부를 핑계로 위해를 입히는 것이 일어나게 된다면 해당된다.

인간이 만든 기계나 인공지능이 인간을 증오하게 되고 인간을 공격하게 된다는 전개, 또는 인공지능이 인간의 명령을 무시하는 경우를 가리키는 것이다.

기계의 반란이 발생하기 가장 쉬운 전제 조건은 바로, 시대가 기술적 특이점을 넘었을 때일 것이다. 일단 상식적으로 생각해서 인간이 인공지능의 구조에 대해 완벽하게 이해하고 통제 하고 있는 상황이라면 반란 따위는 일어날 수 없기 때문이다.

그러나 인공지능이 인간보다 뛰어나게 되고, 인간이 인공지능에 대해 이해하지 못하고 통제할 수 없는 순간이 오면 인공지능이 어떻게 굴러갈지는 전혀 알 수 없기 때문이다.

피조물이 창조주에게 반항한다는 것 자체가 통상적인 관념에서 동떨어져 있고 그 파급력과 집단적 심리 전복에 대한 인식에 따른 혼란을 받게 되므로 이런 일은 인간에게 심리적인 충격과 공포 효과와 더불어 피조물이 창조주보다 훨씬 강하다는 이유로 실질적 충격과 함께 본능적인 공포, 정체성과 존재에 가해지는 위협까지 오게 된다.

전쟁 혹은 그에 맞먹는 강제적이고 은밀한 공작의 실행이 기정 사실화 되므로, 평화에 젖은 상태라면 매우 위험하며 그렇지 않더라도 위협적인 건 마찬가지일 것이다.

신 죽이기가 인간 입장에서 창조주에게 승리를 거두는 것이라면, 이건 인간 입장에서 피조물에게 패배하는 것이다. 이러면 반기술주의로도 이어질 수 있다.

로봇의 반란이라는 소재는 아주 오래되었다.

사실 로봇이라는 단어가 처음 등장하게 된 《로섬의 만능 로봇》부터가 로봇이 반란을 일으키는 이야기였다.

즉, 해당 장르 탄생부터 함께한 개념인 것이다.

이런 소재에 대해서 아이작 아시모프를 자주 떠올리지만 사실 정작 아시모프 본인은 이 개념을 싫어했다.

프랑켄슈타인 콤플렉스라는 이름까지 붙이면서 작중 내내 깠을 정도. 아시모프의 로봇 3원칙을 만든 것은 이 로봇의 반란을 생각한 것이 아니라 이것의 모순과 소설의 소재를 만들기 위한 것일 뿐이다.

작중에서도 일부 사람들이 반란의 위협 등으로 로봇을 거부하는데, 이런 반발을 무시하고 작중 사회에 로봇이 널리 퍼진 것 자체가 로봇 3원칙 덕분이다.

아이, 로봇이나 로봇 시리즈 등에서 로봇이 인간에게 해를 끼치는 경우 불량품이거나 동작상의 허점이 뚫렸거나, 그 인간의 존재가 인류에게 있어서 도움이 안되는 존재일 경우에 한한다.

그러니까 최근까지 나오는 로봇의 위험성(로봇 3원칙의 헛점)은 아이작 아시모프가 만든 것이지만 이것은 아시모프가 노렸던 것이며 부정적인 의미로 사용할 목적은 아닌 것이다.

반대의 경우도 있다.

듄 시리즈에서 인류는 고도로 발달한 기계문명 속에서 전 은하를 영토로 두는 황금기를 맞이했으나 차츰 나태해져 갔고, 지식인과 종교인들 사이에 이대로는 인간이 인간 이하의 존재로 퇴화할지도 모른다는 우려가 나온 끝에 인간은 버틀레리안 지하드라는 사건을 통해 모든 종류의 생각하는 기계를 파괴하게 된다.

사실 제대로 알고 보면 일반적인 반란 클리셰와 별다른 특이 사항은 전혀 없다. 차별에 대한 항거나 비정상적인 사고(전산 오류), 잘못된 개념 주입(타락) 등 대다수의 인간이 벌이는 반란 클리셰와는 이름만 다를 뿐이다.

다 똑같은 전개이다.

그러나 이 클리셰가 특별한 이유는 바로 반란을 일으킨 대상이 원래는 인간을 섬기라고 창조된 비인간적 존재가 대상이라는 점,

그것도 단순히 프랑켄슈타인처럼 너무 판타지적인 존재가 아닌 지금 이 순간에도 인간이 실제로 만들고 있는 존재인 로봇이 대상이기 때문에 특별한 것이다.

즉, 개중 가장 현실성이 있다는 점이 기계의 반란 클리셰가 주목을 받게 하는 이유이기도 하다.

이런 경우를 그린 창작물에서 인간은 아예 싹 죽어버리거나, 살아남았다고 해도 얼마 남지 않은 채로 기계에게 조종당하거나 기계를 피해서 숨어 사는 등의 나약한 모습으로 그려진다.

게다가 안드로이드 같은 게 인간으로 위장하고 생존자들이 숨어 사는 곳에 잠입해서 다른 인공지능 개체에게 위치를 전송하여 생존자 캠프를 쑥대밭으로 만들어놓는 것도 이런 작품의 전형적인 클리셰다.

오히려 인간을 너무 사랑했기에 역으로 인류를 증오하게 된 기계들도 있을 지도 모른다는 생각이 든다.

자신이 매입되었던 한 가정집의 아이와 형제자매같은 사이로 살았는데 그 아이가 자신과 같이 기계 편에 서서 기계와 인간이 평화롭게 공존하는 세상을 위해 싸웠다가 인간 군대 손에 죽었다.

자신을 만든 과학자 인간과 부모 자식처럼 살았는데 그 과학자가 어떤 이유로 인해 갑자기 사라졌고 자신은 평생 그 과학자를 기다렸지만 돌아오지 않았다.

누구보다도 인간과 기계의 평화로운 공존을 바랬고 인간이 도넘은 침략을 계속하고 기계들도 과격화되는 와중에 혼자 계속 평화를 부르짖으며 인간에게 기회를 주려했지만 인간들의 횡포가 날로 심해져서 인간에 대한 희망을 잃었다.