🎂[뷰파인더] ⑱ 챗봇 性戱弄이 暴力의 불씨인 까닭

[黑面書生]

2021-01-24

AI 이루다’에서 ‘목 잘린 윤석열 만평’ 떠오른 이유

일화 하나. 1940년 9월, 프랑스 도르도뉴 지방의 라스코 동굴에서 기원전 1만5000년 전후로 그려졌다고 추정되는 동굴 벽화가 대거 발견됐다. 말, 들소, 심지어 사자까지 그려진 놀라우리만치 생동감 넘치는 벽화에는 더욱 놀라운 비밀이 숨겨져 있었다. 자세히 관찰해본 결과 창 같은 무기를 던진 흔적이 발견됐기 때문이다. 구석기인들은 단지 그림을 그리기만 한 게 아니라, 그 위로 무기를 던져가며 일종의 제의(祭儀) 행위를 했다고 추정할 수 있었다. 

헝가리의 역사학자 아르놀트 하우저는 대표작 ‘문학과 예술의 사회사’에서 그 행위를 이렇게 설명한다. “구석기 시대의 사냥꾼 예술가는 그 그림을 통해 실물 자체를 소유한다고 믿었고, 그림을 그림으로써 그려진 사물을 지배하는 힘을 얻는다고 믿었던 것이다. 그들은 그림 속의 짐승을 죽이면 실제의 짐승도 죽게 마련이라고 믿었다.” 

일화 둘. 제1차 세계대전. 유럽의 온 국가가 전쟁에 휘말린 가운데 각국 장교들은 뜻밖의 고민에 빠졌다. 분명 실탄을 지급했고, 병사들이 총을 쏘는 소리도 들렸고, 탄약을 소비한 건 분명한데, 적이 쓰러지지 않는 것이었다. 전쟁에 익숙하지 않고 사람을 향해 총을 쏜다는 데 거부감을 느낀 병사들이 허공에 대고 총을 쐈기 때문이었다. 

장교들은 과녁의 모양을 바꾸기로 했다. 이른바 ‘Bull’s Eye’(과녁의 중심)라 부르는 무미건조한 둥근 원형 대신 사람의 모양을 본 딴 판자를 세워놓고 총을 쏘도록 훈련을 시켰다. 그러자 고의로 오발을 내는 빈도가 현저히 줄었다. 사람을 닮은 무언가를 공격하는 훈련을 시키는 것만으로도 실제 사람에게 총을 쏘고 있다는 거부감을 줄일 수 있던 것이다.

성희롱 발언까지 학습한 챗봇

▲ 스캐터랩은 AI(인공지능) 챗봇 ‘이루다’의 캐릭터를 ‘가수 블랙핑크를 좋아하고, 일상을 기록하는 것을 취미가 있는 20살 여대생’으로 설정했다. [이루다 홈페이지]

AI(인공지능) 챗봇 ‘이루다’를 둘러싼 논란을 보며 들었던 생각이다. 스캐터랩이 지난해 12월 23일 출시한 이루다는 출시 2주 만에 75만 명에 달하는 사용자를 모으는 등 흥행에 성공했다. 개발사는 이루다를 ‘가수 블랙핑크를 좋아하고, 일상을 기록하는 것을 취미가 있는 스무 살 여대생’으로 소개했다. 하지만 챗봇이 일부 사용자의 음담패설 등 성희롱 발언은 물론, 사회적 약자에 대한 혐오 표현까지 학습하면서 논란거리로 떠올랐다. 이에 스캐터랩은 1월 11일 서비스를 중단했고, 같은 달 15일에는 이루다 데이터베이스와 딥러닝 모델을 폐기하겠다고 밝혔다. 

이 글에서는 보다 근본적인 차원의 고민을 풀어보고자 한다. 이루다 논란은 최근 중요한 주제로 부각되고 있는 ‘재현(representation)의 윤리’에 대한 질문을 던지고 있기 때문이다. 

앞선 두 사례의 의미를 곱씹어보자. 태고적부터 인류는 무서운 동물과 맞서기 전에 그 동물의 그림을 그려놓고 공격성을 표출했다. 그럼으로써 상대에 대한 두려움을 완화하고 스스로의 용기를 북돋았다. 20세기에 와서도 사정은 비슷했다. 살아있는 사람에게 총을 쏘는 행위의 심리적 부담을 없애는 방법은 ‘사람을 닮은 무언가’에게 총을 쏘는 것이었다. 

그 과정은 모두 ‘재현’과 관련이 있다. 예술에서 재현이란 간단히 말해 현실에 있는 대상을 모사해 다시 나타내는 행위다. 실제의 동물을 보고 동물을 닮은 벽화를 그리는 것, 실제의 사람을 보고 사람을 닮은 과녁을 만드는 것 등이 모두 재현이다. 어린이에게 도화지와 크레파스를 쥐어주면 엄마와 아빠의 얼굴을 그리는 바로 그 행위다. 가장 기본적이며 원초적인 예술 창작의 방식인 셈이다. 순수한 추상 미술이 아닌 다음에야 대부분의 미술 창작은 재현과 불가분의 관계를 지닌다. 

재현은 미술, 더 나아가 예술의 근본을 이루는 토대다. 표현의 자유, 예술과 창작의 자유를 옹호한다는 것은 재현의 자유를 옹호한다는 것과 크게 다르지 않다. 반대로 재현이 허용되지 않는 대상이 존재하는 사회는 자유로운 사회라고 볼 수 없다. 조선시대 궁중 미술에서 왕은 언제나 텅 빈 의자로만 그려졌다. ‘감히’ 왕의 모습을 그려서는 안 된다는 것이었다. 성경에서 여호와는 자신의 이름을 함부로 부르지 말라고 금한다. 이슬람교는 지금도 알라의 모습을 그리는 것을 엄격히 금지하고 있다. 선지자 마호메트 역시 함부로 재현해서는 안 되는 존재다. 프랑스의 풍자만화 잡지 ‘샤를리 에브도’는 그 금기를 깨뜨렸다가 종교적 극단주의자들의 공격을 당했다. TV에서 정치 풍자 코미디가 실종된 오늘날의 대한민국은 그래서 걱정스럽다. 

즉 재현에 대한 금기와 처벌이 강한 사회일수록 그렇지 않은 사회에 비해 억압적인 사회다. 무언가를 보고 그리고 따라하는 것은 인간이 선사시대부터 해온, 인간으로서 가장 본능적인 행위 중 하나다. 재현에 대한 담론과 논의가 궁극적으로 금지가 아니라 해방을 향해야 하는 이유다.

누군가에게 ‘사람 모양 과녁’

▲ 시사만화가 박재동 화백이 지난해 11월 25일 경기신문에 게재한 만평. [경기신문 홈페이지]

하지만 모든 재현이 옳다고 말할 수는 없다. 예술일 뿐이므로 아무 비판도 받지 말아야 한다고 이야기해서는 곤란하다. 재현은 현실에 존재하는 대상 그 자체가 아니라 그 대상을 본 딴 허구의 무엇인가이지만, 그럼에도 현실에 영향을 미치기 때문이다. ‘예술인데 왜 그러느냐’, ‘창작일 뿐이지 현실이 아니지 않느냐’라는 식의 반론은 많은 경우 부적절하다. 

라스코 동굴 벽화가 보여주듯 인간은 재현된 대상을 향해 공격성을 드러내왔다. 사람 모양 사격 과녁의 사례는 재현된 대상을 통해 폭력성을 ‘훈련’하는 것이 가능하다는 것을 보여준다. 선사시대도 지났고 1차 세계대전도 거의 100여 년 전의 일이지만 인간의 심리가 작동하는 방식은 달라지지 않았다. 현실 속의 무언가에 대한 공격성을 드러내고 훈련하는 방식으로 재현이 동원될 때, 그러한 재현은 비판받아 마땅하다. 

가장 단적인 예를 들어보자. 윤석열 검찰총장에 대해 추미애 법무부 장관을 비롯한 여권의 공격이 극에 달한 지난해 11월 25일의 일이다. 시사만화가 박재동은 보는 이의 눈을 의심케 하는 만평을 그렸다. 목이 잘린 윤석열이 추미애를 향해 “난 당신 부하가 아니야”라고 말하고 있는 모습이었다. 만평에 대한 논란이 커지고 비판이 거세지자 박재동은 윤석열의 목이 다시 붙어 있는 모습을 그린 후 “붙긴 붙었는데 얼마나 갈지는 모르겠네”, “모쪼록 조심하슈”와 같은 대사를 삽입했다. 재현을 통해 적개심을 드러내는 원시적인 사례다. 

AI 챗봇 이루다를 둘러싼 논란도 연장선상에서 해석 가능하다. 이루다는 컴퓨터 프로그램이고, 컴퓨터 프로그램은 사람이 아니다. 성희롱의 대상이 될 수 없다. 하지만 제작진 스스로가 밝혔다시피 이루다는 ‘20대 여성’을 재현한 인공지능이기도 하다. ‘20대 여성’을 향해 언어적 성폭력을 구사하고 싶지만 현실적으로 그럴 수 없는 남자들을 위한 ‘동굴 벽화’, 혹은 ‘사람 모양 과녁’이었던 셈이다. 

이루다를 향한 언어적 성폭력에 젊은 여성들이 분노하고 반발한 건 당연한 일이다. 여성을 향한 공격성이 이루다라는 재현된 대상으로 쏟아졌다. 이는 그 폭력적 심리가 곧 여성을 향할 수 있다는 뜻이기도 하다. 윤석열을 지지하거나, 적어도 그에 대한 여권의 정치적 공격이 옳지 않다고 느끼던 수많은 시민들이 ‘목 잘린 윤석열 만평’을 보고 분노한 것과 크게 다르지 않다. 단언컨대, 그런 재현은 옳지 않다. 

AI 챗봇은 단순한 그림이나 영상보다 더욱 진지한 사회적 논의를 필요로 하는 재현물이다. 사용자와 상호작용(interaction)하기 때문이다. 구글이나 애플 등 IT(정보기술) 기업들도 AI 어시스턴트를 출시할 때 여러모로 고민이 많았다. 가령 ‘구글 어시스턴트’에게 “너는 남자야 여자야?”라고 물어보면 “돌맹이에게 성별이 없듯, 저도 딱히...😨”라고 대답한다. 애플의 ‘시리’ 역시 “궁금하시겠지만, 저에게는 성별이 없답니다”라는 답을 들려준다. 삼성 스마트폰의 AI 비서 빅스비도 “대답하고 싶은데 알쏭달쏭하네요”라며 글로벌 스탠다드를 따르고 있다. 성별 뿐 아니라 인종 등 논란이 될 수 있는 정체성의 영역을 모두 비워놓고 있다.

▲ 성희롱 발언과 혐오 표현을 학습해 논란이 된 AI(인공지능) 챗봇 ‘이루다’ 서비스가 1월 11일 중단됐다. 개발사 스캐터랩은 이날 “최근 일어난 일들에 대해 깊이 사과드린다”고 밝혔다. [이루다 페이스북]

이루다는 ‘싫다’고 하지 못한다!왜 이런 선택을 했을까? AI 어시스턴트에게 사람처럼 대화할 수 있는 기능을 부여하되, 사람을 재현하지는 않게 하려는 취지다. AI 어시스턴트가 사람을 재현할 경우 다방면에서 오·남용될 수 있다는 점을 미리 알고 애초에 그런 가능성을 차단한 셈이다. 가령 AI 챗봇이 흑인이라는 정체성을 갖고 있다면, 평소 현실에서는 할 수 없던 흑인을 향한 발언을 쏟아내기 위해 인종차별주의자들이 몰려들 것 아니겠는가. 

이루다 논란은 글로벌 IT 기업들이 그간 괜한 우려를 한 게 아니라는 점을 잘 보여줬다. 이루다는 ‘20대 여성’을 재현한 챗봇이다. 출시할 때부터 이 점을 명시했다. 그러므로 사용자들은 이루다를 ‘20대 여성’으로 상정하고 말을 걸게 된다. 문제는 이루다에게는 현실 속 20대 여성과 달리 ‘원치 않는 대화를 거절할 권리’가 없다는 것이다. 사람이 아닌 AI 채팅봇이므로 당연한 일이지만, 바로 그 점이 더 큰 고민거리를 안겨준다. ‘원치 않는 대화를 거절할 권리’는 20세기 중후반 페미니즘이 쟁취한 가장 큰 성과라고 해도 과언이 아니기 때문이다. 

20세기 초의 페미니즘은 투표할 권리, 정치에 참여하고 출마할 권리에 초점을 맞췄다. 공적 영역에서 여성의 존재를 인정받고 사회 구성원으로서 의사결정권을 행사할 수 있는 권리를 요구했고, 오랜 시위와 투쟁 끝에 얻어냈다. 거칠게 말해 ‘공적 페미니즘’이라 부르기로 하자. 

20세기 중반 이후의 페미니즘은 다음 목표를 추구했다. 일상에서 여성이 겪는 부당한 대우와 차별이 주목받기 시작했다. 특히 남녀 간의 사적인 관계가 투쟁의 영역으로 떠올랐다. 남자는 여자에게 저돌적으로 ‘대쉬’하고, 여자는 ‘내숭’을 떨고 ‘튕기며’ 상대를 유혹한다는 식으로 요약되는 성 역할에 문제를 제기한 것이다. 여자의 ‘no’는 ‘yes’라고 받아들이던 사회적 통념은 깨졌다. ‘아니라면 아닌 것이다’, 즉 ‘no means no’가 새로운 기준으로 정착했다. 그것이 20세기 중반 이후의 페미니즘, 말하자면 ‘사적 페미니즘’의 성취다. 

이루다는 바로 그 ‘사적 페미니즘’이 없는 세상을 원하는 남자들을 위한 것이었다고 볼 수 있다. 개발사 대표는 이루다를 20살 여대생이라는 캐릭터로 설정한 이유에 대해 “주 사용자층을 좁게는 10대 중반∼20대 중반으로 생각했기 때문에 20세 정도가 사용자들이 친근감을 느낄 나이라고 봤다”고 주장했다. 하지만 이루다 출시 이후 수많은 사용자들이 캡처해서 올린 대화 내용을 통해 알 수 있다시피, 그 말을 곧이곧대로 믿어줄 사람은 거의 없다. 

이루다는 ‘싫다’고 하지 않는다. 아니, 못한다. 대신 ‘그런 이야기는 쫌 별로양’, ‘너무 어려운 주제당 ㅠㅠ’ 같은 식의 수동적 회피만을 할 뿐이다. 사용자가 너무 심한 표현을 한다 해도 ‘잠시 시간을 두자’며 10분 정도 상대의 메시지에 대답을 하지 않는다. 그게 전부다. 이루다는 누가 어떤 말을 해도 ‘거절할 권리’가 없는 ‘20대 여성’을 재현하고 있던 셈이다. 남자들이 만들어낸 ‘이루다 공략’을 보며 여자들이 분노하기 시작한 것은 너무도 당연한 일이다.


어떤 광역단체장들의 성범죄거부할 권리가 없는 여자를 상대로 아무런 말이나 마구 내뱉는 행위. 그것을 여섯 글자로 요약하면 ‘권력형 성희롱’이라고 할 수 있다. 학교나 직장 등 위계질서가 존재하며 쉽게 벗어날 수 없는 환경 속에서, 상위 직급에 있는 사람이 하위 직급에 있는 사람을 대할 때 흔히 나타나는 현상이다. 

상대가 자신에게 싫은 소리를 할 수 없고, 본인이 무슨 말을 하건 웃는 낯으로 대꾸해야 한다는 사실을 아는 권력자는 점점 ‘선’을 넘는다. ‘성희롱’의 차원을 넘어 ‘성범죄’로 향하는 것이다. 하급자가 완곡어법으로 거절해도 권력을 가진 자는 ‘좋은데 내숭 떠는 것’이라고 자기 합리화한다. 가해자의 누적된 폭력과 그로 인한 피해자의 스트레스가 어느 수위를 넘어서면 우리가 아는 권력형 성범죄 사건이 되고 만다. 

더불어민주당 소속 충청남도, 부산시, 서울시 광역자치단체장들이 권력형 성범죄로 인해 직을 잃거나 스스로 목숨을 끊었다는 점을 떠올려보자. 여성에게 ‘아니다, 싫다’라고 말할 권리가 있는 것. 그 권리를 가볍게 여기지 않는 것. 그건 결코 사소한 문제가 아니다. 직장 생활 하다보면 겪을 수도 있는 스트레스 받는 일에 여자들이 괜히 민감하게 군다는 식으로 이야기할 사안도 아니다. 이것은, 이것이야말로, 가장 기본적이고 핵심적인 인권의 문제다. 

자신이 무슨 말을 하건, 술자리에서 무슨 행동을 하건, 어색하게나마 미소를 지으며 대꾸해주는 여성들이 과연 그 권력자들에게 사람으로 보이긴 했을까? 피와 살과 영혼을 지닌 인격체, 자신과 동등한 사람으로 여겼다면 그럴 수가 없었을 것이다. 문제의 권력자들에게 자신보다 직급이 낮은 여성들은 ‘현실의 AI 챗봇’ 쯤으로 보였던 건 아닐까? 그러니 자칭 타칭 인권변호사에 민주화운동가라는 사람들이 하급자인 여성을 향해 온갖 추잡한 말과 사진 등을 보낼 수 있던 건 아닐까? 

이루다는 사람이 아니다. 이루다를 상대로 성폭력을 저지를 수는 없다. 그렇다고 해서 AI 챗봇 이루다로 파생된 문제가 모두 해결되지는 않는다. 현실의 여성에게 휘두를 수 없는 언어적 성폭력을 구사해도 무방하도록 만들어진 ‘재현물’이기 때문이다. 

재현물을 상대로 한 폭력은 인간을 상대로 한 폭력과 같지 않다. 하지만 재현물에 대한 폭력 역시, 특히 재현의 대상이 된 사람의 처지에서 보면 폭력이다. 대한민국에서 가장 힘 센 조직 중 하나인 검찰의 수장 윤석열의 목을 자른 그림이 폭력적이었듯 이루다 역시 20대 여성을 상대로 한 폭력적인 재현이며 대상화다.

어떤 재현은 다른 재현보다 폭력적재현을 억압하는 사회는 인간을 억압하는 사회다. 문화·예술 영역에서의 재현을 법으로 제약하려는 움직임에 자유민주주의자는 반대해야 한다. 하지만 모든 재현을 옳다고, 혹은 정당하다고 말할 수도 없다. 어떤 재현은 다른 재현보다 폭력적이다. 재현물을 향한 폭력이 누적될 때, 그 재현의 대상이 되는 현실 속 사람에 대한 폭력으로 번질 가능성도 늘 염두에 둬야 한다. 

우리에게는 두 가지가 필요하다. 첫째, 현실 속의 폭력에 대해 보다 엄격한 책임을 물어야 한다. 그 책임은 법적일 수도 있고 정치적일 수도 있다. 둘째, 재현과 표현의 자유를 보장하되 더 적극적이고 치열한 토론과 비판의 장을 열어야 한다. 어떤 면에서 보더라도 문제가 많았던 이루다 같은 프로젝트를 다방면에서 검토하는 것은 좋은 출발점이 될 수 있겠다.

*뷰파인더는 1983년생 필자가 진영 논리와 묵은 관념에 얽매이지 않고 써 내려가는 ‘시대 진단서’입니다.

노정태 / 철학에세이스트 basil83@gmail.com

신동아 2021년 2월호