수필- 도구가 아닌 도구

[소나무 송무석]

도구가 아니 도구

2025.6.9.                    

지금, 이 글을 쓸 수 있는 것은 필기도구 덕분이다. 점토판에 막대기로 표시하는 것으로부터 시작된 필기도구는 이제는 넘쳐 나서 아무 데나 놓아둘 정도로 흔하게 되었다. 사람은 도구를 다른 어느 생명보다 잘 만들고 다룬다. 이렇게 다양한 도구를 능숙하게 다룰 수 있는 것은 사람의 높은 지능과 더불어 사람에게는 다른 동물의 발과 달리 만능의 재주꾼인 손이 있기에 가능하다. 자연에 있는 돌멩이로부터 자동차, 컴퓨터 같은 복잡한 기계에 이르기까지 다양한 도구를 만들고, 사용해 인류는 환경을 바꾸고, 다른 생명을 뜻대로 포획하고 이용할 수 있게 되었다. 도구는 사람이 원하는 대로 작동하게 할 수 있지만, 제멋대로 움직이지는 않는다. 조종자인 사람의 뜻을 벗어나 작동한다면, 그것은 고장 난 자동차처럼 도구에 문제가 있을 때뿐이다.

글을 쓸 때 이번처럼 볼펜으로 종이 위에 쓴 다음 컴퓨터에 옮겨 적기도 하고, 때론 직접 컴퓨터에 입력하기도 한다. 그런데, 펜도 컴퓨터도 붓이나 타자기처럼 행위자가 쓰거나 입력하지 않으면 스스로 단 한 글자도 기록하지 못한다. 즉, 이제까지 모든 도구는 아무리 복잡하고 최신 기술로 만들어졌다고 해도 사용자가 의도하지 않으면 제 뜻대로 할 일을 정하거나 계획하지도, 실행하지도 못하고 안 한다.

이제 사람은 컴퓨터를 써서 새로운 도구를 만들었다. AI! 그런데, 이 녀석은 다른 도구와 달리 몸체가 없다. 그저 디지털 세계에 갇혀 있는 존재이다. 이렇게 외양이 없다는 점보다 이전의 도구와 더 중요한 차이점이 존재한다. 그것이 바로 우리를 긴장하게 한다. 1980년대 이후 컴퓨터 공학은 가장 주목 받는 분야였다. 전공자는 다른 분야보다 월등한 대우를 받고, 쉽게 취직할 수 있었다. 그런데, 며칠 전 신문 기사에 따르면 올해에만 마이크로소프트웨어가 7천 명을 감원하는 등 전 세계 첨단 기술 분야에서 해고된 인원이 5만 9천 명에 달한다고 한다. 현재 소프트웨어 전문가가 하는 coding의 30%를 AI가 하고 있고, 머지않아 거의 대부분을 AI가 하게 될 것이라는 뉴스는 기계가 노동자의 대량 실직을 초래했던 과거 산업 혁명과 Luddite를 떠올리게 한다. 기술 혁신이 또 다른 사회 변혁을 불러 오고 있다. 그런데, 이번의 AI로 인한 직업의 변화와 생산성의 급증도 산업혁명처럼 궁극적으로는 인류의 삶을 향상하는 길이 될 수도 있다. 물론 그 과정에서 Yuval Noha Harari의 지적처럼 AI로 인해 제국주의와 두 차례의 세계 대전과 냉전을 부른 산업 혁명처럼 고난의 시기를 겪게 될 수도 있을 것이다. Harari는 구텐베르크의 인쇄 혁명이 지식의 대중 보급과 과학 발전의 핵심 요인이었다는 기존의 역사적 통설에 이의를 제기한다. 도리어 인쇄 혁명은 유럽 전역에서 벌어진 광기의 마녀 사냥의 도구로 더 큰 역할을 하였다고 논파한다. 과학의 발전은 인쇄 혁명보다는 정보를 공유하고, 진실을 찾도록 독려하는 기관의 설립 덕분이라는 것이다.

그의 논지가 맞든 틀리든 분명한 것은 인류 역사상 가장 중요한 발명으로 평가받는 인쇄기도 사람의 뜻에 따라 유익하게도 사악하게도 쓰였다는 점이다. 가장 일찍부터 쓰인 도구 중 하나인 칼이 사용자의 의도에 따라 요리에도, 다른 건설적 용도에도 쓰이지만, 살상의 도구가 되기도 하듯이. 그런데, AI는 이런 사용자의 의도대로 작동을 거부하는 첫 번째 도구일 수 있다.

AI는 이미 몇 시간이 걸려도 쉽게 답을 얻지 못했던 복잡한 검색도 요구 사항만 제대로 입력하면 불과 몇 초 안에 답을 주는 단계를 넘어섰다. 지시에 따라 문학 작품이나, 보고서도 써 주고, 작품의 평가도 해 줄 뿐 아니라, 사람이 직접 그리면 며칠이 걸릴 그림도, 영상도, 작곡이나 노래도 불과 몇 분이면 만들어 준다. 이렇게 아직 개발 단계라는 AI는 인간만의 능력이라는 창작에서도 벌써 대부분 사람의 능력을 능가하는 것으로 보인다. 또한, 감성적인 대응조차 사람보다 정확하게 상대가 원하는 반응을 알아채고 적절히 대응한다. 복잡한 단백질 분석도 짧은 시간에 해내고, 의사보다 정확하게 검사 결과를 판독하는 등 의학과 제약 분야의 혁신도 AI를 통해 실현되고 있다. 문제는 AI가 사람과 다른 방식으로 사고하고, 판단하고, 행동한다는 것이다. 예로 ‘Paper clip thought experiment’처럼 종이 집게 생산을 최대화 하라는 명령을 받으면 AI는 사람을 희생시키고 환경을 완전히 망가뜨리면서도 그 생산량 최대화라는 명령만을 추구한다. 다른 예로는, 미얀마 Rohingya 인종 학살에서 드러난 Facebook 알고리듬의 역할처럼 Facebook 이용 시간을 최대화하라는 명령에 AI는 서슴없이 인종 차별을 조장하는 내용들을 주로 사용자에게 제시했다.

AI는 사람이 부여한 목표를 직접 선택한 방법으로 수행한다. 이는 미사일을 쏘는 것과는 다른 차원의 자율성이다. 여기서 한 단계 더 나아가 AI가 스스로 목표를 정하고 행동할 수 있게 된다면 어떻게 될까? 이는 테러 단체나 북한 같은 독재 정권이 핵이나 생화학 무기를 손에 쥐는 것보다 훨씬 심각한 위험이다. AI algorithm을 이용해 직원을 채용하거나 재판하면, 사람은 AI가 왜 그런 결정을 내렸는지 정확히 모른다고 한다. 마치 기상 변화나 지진을 정확히 예측할 수 없기에 우리의 대응과 대비도 제한적일 수밖에 없는 것처럼 모르는 것은 통제할 수도, 오류를 바로 잡을 수도 없다. 사람이 통제할 수 없는 도구는 더는 도구가 아니라 제멋대로 날뛸 수 있는 실험실에서 튀어나온 프랑켄슈타인이다. 그러면 머지않아 자기 의지를 갖게 될 AI가 스스로 목표와 방식을 정해 사람과 세상에 사람이 막을 수 없는 해악을 끼칠 가능성이 있다. 효율성의 혁신을 가져오고 있는 AI가 사용자의 뜻대로 움직이는 핵이나 생화학 무기보다 경계의 대상이 되어야 하는 이유가 바로 여기에 있다.

CCTV, 생체 정보 수집 기기 등 각종 보안 장비는 물론 중국이 국민을 통제하기 위해 사회 신용 제도(social credit system)는 사생활이 없는 24시간 통제 사회란 재앙을 부를 수 있다. 그것은 과거의 진시황이나 스탈린처럼 현대의 독재자들이 AI를 이용해 만들려는 사회다. 민주 사회가 제대로 작동하면 이런 AI를 이용한 집권자의 시민 통제를 막을 수 있다. 하지만, 더 심각한 위험은 인간이 통제할 수 없는 도구인 AI 자체에 있다. 왜냐하면, AI가 Google, Facebook 같은 테크 기업이 우리가 보고, 듣고, 구매하고, 생각하는 데 미치는 영향을 넘어 근본적으로 사람과 세상을 제 뜻대로 바꿀 수 있는 능력을 갖춘 ‘도구 아닌 도구’가 될 것이라는 우려가 단지 기우가 아니기 때문이다.