AI, 지금 우리에게 길을 묻다
허유선 동국대학교 철학과 강사
환영과 경계. 챗GPT의 등장에 대한 상이한 반응은 기계와 인간의 관계 및 기술에 대한 인간의 태도를 돌아보게 한다. 챗GPT의 열풍 속에 한켠에서는 챗GPT가 가져오는 제적 변화와 이익을 셈하기 바쁘다. 다른 한편으로, 지난 3월 22일 미국의 비영리기관인 ‘미래의 삶 연구소(FLI)’는 ‘거대AI 실험을 중지하라’는 공개 서한을 발표했다. 이 공개 서한에는 테슬라의CEO 일론 머스크, 애플의 공동창업자 스티브 워즈니악, 인류학자 유발 하라리 외에 AI 기술산업계 연구진 등 다양한 인사가 참여했다. 요구는 강력하고 과감하다. GPT-4 이상의 강력한 AI의 개발을 최소 6개월간 즉각 중단하라는 것이다.
| |
미래의 삶 연구소의 ‘거대 AI 실험을 중지하라’는 공개 서한 © FLI |
새로운 기술, 오래된 질문 : 인간 대 기계
과감한 요구는 마치 기술의 발전을 무조건적으로 반대하는 듯한 인상을 주지만, 참여진의 면면에서 알 수 있듯이 요구의 실상은 그보다 온건하다. 인간이 충분히 이해하고 감독 가능한 기술이 아니라면 기술 개발에 경쟁적으로 몰두하는 것이 오히려 인간을 위험하게 할 수 있다는 것이다. 따라서 공동의 규약을 세우고 외부 기관이 감사하는 등, 충분히 안전하다고 확신할 수 있는관리 감독 시스템을 갖출 때까지는 AI 개발을 일시적으로 유예할 필요가 있다.
실제로 AI 기술의 빠른 발전 속도와 광범위한 사회적 사용에 대비해 AI 기술을 안전하게 관리 감독하는 제도적 시스템은 아직 미비한 상태이다. 열풍의 주역인 오픈AI는 훈련 데이터세트와 개발에 들인 에너지 비용 등 챗GPT-4에 관한 정보 대부분을 공개하지 않았다. 오픈AI는 그 이유를 타사와의 경쟁 및 모델 악용 우려의 문제라고 밝혔지만, 그 과정이 비밀리에 쌓인 기술 제품을 안심하고 사용하라는 것 또한 어불성설이다. 실제로 AI 언어모델은 저작권으로 보호받는 자료를 활용했다는 의혹을 받고 있으며, 그럴싸하게 거짓을 지어내는 환각 효과에 대한 대응을 요구한다. 아무런 정보가 공개되지
않고 그에 대한 규제도 가능하지 않다면, 우리는 무엇을 믿고 이를 활용할 수 있을까? AI는 세계의 정보를 빨아들이지만 반대로 중요한 정보는 모두 AI를 개발하는 민간 기업의 손 안에 놓일 우려가 있는 것이다.
그러므로 이 공개 서한은 제목이 주는 인상과 달리, AI 기술 개발의 필요성과 이점을 부인하는 것이 아니다. 오히려 기술 개발이 인류에게 유익한 것이라고 믿기 때문에 인간이 이를 안전하고 충분하게 누릴 수 있도록 다양한 관계자가 협동해 기술에 대한 안전 관리 및 감독 장치를 마련하고 시행하는 것이 필수적으로 뒷받침되어야 한다고 주장한다. 결과적으로 이들은 새로운 기술의 사회 도입을 무조건 반대하는 반(反)기술주의자가 아니다. 아마 수많은 사람이 이주장에 동의할 것이다.
그렇다면 공개 서한의 이러한 우려는 어떨까? “오늘날 AI 시스템은 이제 업무 전반에서 인간과 경쟁하게 되었으며, 우리는 스스로에게 질문을 던질 수밖에 없다. 우리는 …… 과연 모든 직업을 자동화해야 할까? 우리를 능가하며, 우리보다 똑똑해져서 우리를 대체할 수 있는, 인간이 아닌 마음을 개발해야 할까? 문명에 대한 우리의 통제력을 잃을 위험을 무릅쓰면서까지?”공개 서한에서 흥미로운 점은 과감한 제목과 주장이 아니라, 그 안에 든 아주 오래된 생각이다. 인간과 기술은 다르고, 그러므로 AI와 인간도 전혀 다른 존재이다. 이 생각은 AI의 경제적 영향을 계산하고 발 빠르게 적응할 것을 요구하는 입장에서도 마찬가지이다. 이러한 입장은 우리에게 두 가지 행보만을 선택지로 남긴다. 인간은 기술의 뒤를 좇거나, 기술을 통제해야 한다. 그러나 어느 쪽도 그 기술과 함께 현재의 인간이 어떻게 살아가고 있는지, 그 기술과 함께 우리가 성취하기 를 바라는 사회의 가치와 의미가 무엇인지, 그것이 충분히 논의되고 있는지는 묻지 않는다.
AI와 인간, 이미 서로를 함께 만들어간다
인간과 기술 혹은 기술적인 것과 사회적인 것이 전혀 다른 성질을 지녔다는 생각을 기술-인간(사회) 이원론이라 한다. 그러나 우리의 삶과 오늘날 AI 시스템이 형성되고 작동되는 방식은 이미 이러한 이원론적 관점이 적용되기 어렵다는 것을 보여준다.
철학자 돈 아이디는 우리의 정체성과 일상생활이 애초에 기술과 함께 짜여진다고 말한다.우리가 세계를 알아가고, 나를 이해하며, 다른사람과 교류하고, 사회에 나의 의견을 표명하는 일은 기술과 함께 생겨난다. 따라서 인간과 기술의 전적인 분리는 불가능하며, 기술은 단지특정한 물건이나 서비스가 아니라 인간이 스스로와 세계를 구성하고 살아가는 활동이자 과정이다. 말하기와 운전, 수영 등이 활동이자 하나의 기술이며 우리의 삶을 구성하는 요소인 것처럼 말이다.
우리는 이미 매일을 AI와 함께 살아간다. 아침에 일어나 네이버로 날씨를 확인하고, 카카오 택시를 호출해서 이동하며, 쿠팡에서 나의 주문내역에 기초한 할인 상품 안내를 보며 쇼핑을 한다. SNS로 ‘좋아요’를 누르며 안부를 확인하고, 다이렉트 메시지로 약속을 잡는다. 친구를 기다리는 동안, 어떤 정책에 대한 반대 의견을 ‘리트윗’함으로써 사회적이고 정치적인 대화에참여한다. 그리고 유튜브의 쇼츠, 틱톡, 인스타그램 릴스 등을 보거나 만들면서 시간을 보낸다. 줌(Zoom)으로 이제는 너무나 익숙해진 화상회의를 진행하고(화상 앱 미팅은 배경화면 처리나 자동 움직임 및 음성 감지 등에서 AI 기술이 활용된다), 보고서의 아이디어와 초안은 챗GPT에서 얻는다. 발표를 위한 PPT 자료의 이미지는 몇 가지 키워드를 입력하면 자동으로 이미지를 생성해주는 Dall-E에 기반한 MS의 이미지크리에이터 서비스를 이용한다.
오늘날 우리가 세상과 관계 맺고, 행동하고, 다시 나를 돌아보는 대부분의 사건, 과정, 흔적들은 AI 알고리즘을 활용한 플랫폼과 함께 생겨나고, 함께 짜여진다. 관계와 표현, 기록 없이 우리는우리 자신을 이해할 수 없다. 그러므로 AI는 단순한 도구가 아니고, 나를 표현하며 나를 먹여살리는 입, 손발인 동시에 우리의 행동에 자연스럽게 영향을 미치는 환경이기도 하다.
인간은 환경 속에서 살아가지만 환경의 일부이기도 하며, 환경에 다시 영향을 미치는 존재이다. 우리와 AI의 관계 역시 그렇다. AI는 인간에의해 설계되고, 무엇보다 AI를 학습하는 데이터는 우리의 활동을 통해 생겨난다.
AI의 또 다른 이름은 ‘인간과 똑같은 기술’이 아니라, ‘고도의 자동화’이다. 그러나 인간 없이도 돌아간다는 자동화는 여전히 인간의 개입 및 노동과 함께 형성되며 작동한다. 자동 이미지 분류 및 태그를 위해서는 데이터를 분류하는 인간의 단순 노동이 요청된다. 영상을 자동으로 분류하기 위해서는 유해한 영상을 직접 걸러내는 콘텐츠 조정 작업이 필요하다. 자동으로 이미지를 생성하기 위해서는 기존에 인간이 작업했던 무수한 이미지들이 요청된다. 그런 의미에서 우리는 AI의 손과 발이자 몸이기도 하다. 인간이 사라진 자리라고 여겼던 곳에는 여전히 인간이 있다. 그러나 기술에만 집중할 때, 기술과 함께 서로를 만들어가는 인간의 자리는 잊힌다.
커지는 AI, 나의 삶은 안전한가?
챗GPT-4의 이면에는 폭력, 증오 표현, 성적 학대 등의 표현이 담긴 문장을 보고 분류하는 작업을 시간당 2달러 미만으로 받고 일하는 케냐 노동자가 있다. 유튜브의 동영상 역시 제3세계 노동자의 저임금 노동을 통해 폭력적이고 선정적인 유해 영상에 대한 조정을 거친다. 문제는 저임금만이 아니다. 정신적 충격을 야기할 수 있는 유해한 콘텐츠를 다루는 노동자에 대한 보호 조치는 없었다. 윤리적이고 안전한 AI의 활용을 위한 대
가는 역설적이다.
아마존의 알고리즘 기반 업무 감독은 악명높다. 알고리즘을 통해 시간당 스캔 물품 수를 체크하고, 조금이라도 부족하면 패널티를 받으며 해고까지 될 수 있다. 아마존 물류센터 노동자는 화장실에 가는 것조차 부담을 느낀다. 또한 아마존은 업무 감독을 위해 일방적으로 앱을 설치하게 한 후, 직원의 위치와 개인정보를 수집해 업무를 평가한다.
고도화된 자동화를 위한 단순한 노동은 오늘날 AI 기술과 이를 바탕으로 하는 플랫폼을 떠받치는 노동이다. 이런 노동은 저임금으로, 생활이 가능한 돈을 벌기 위해서는 장시간의 노동을 요하지만 경력 개발로 이어지기 어렵고, 노동 환경 또 한 대부분 개인의 책임으로 넘겨진다. 이것이 우리가 바라는 삶의 모습인가?
2022년 구글과 메타(구 페이스북)는 개인정보 침해로 개인정보위원회의 과징금을 부과받았다. 이용자의 타사 행태정보를 수집·분석해 이용자의 관심사를 추론하거나 맞춤형 광고 등에 사용하면서, 그 사실을 사전에 이해하기 쉬운 형태로 명확하게 고지하지 않고, 아예 기본 설정값을 ‘동의’로 해두었기 때문이다. 구글과 메타는 다시 과징금 철회 소송을 제기했다. 한편, AI를 활용한 안면인식 등 생체 인식 서비스는 기존의 인종차별을 재생산하며 사람들을 감시하는 데 활용된다. 심지어 얼굴을 통해 지능지수, 성적 지향성 및 성 정체성, 정치적 성향까지 분석할 수 있다는 연구도 발표되었다. 우리가 생산하는 정보는 우리를 위해 활용되고 있는가? 우리가 바라는 AI의 모습은 우리가 바라는 삶의 모습과 합치하는가?
인간 중심의 기술사회를 위한 질문이 필요하다
우리를 능가하는 기계 혹은 기술은 계속 있어왔다. 우리는 인쇄기처럼 글자를 빠른 속도로 대량 생산하지 못하고, 사진기처럼 정밀하게 대상을 그려내지 못한다. 문제는 우리를 능가하는 미래의 기계가 아니라 우리가 그 기술과 함께 만들고 있는 현재이며, 그와 함께 만들어가려는 미래의 사회 환경과 삶이다. 인간과 다른 AI 기술에만 집중할 때, 우리는 우리가 만들고 싶은 현재와 미래에 관한 질문을 잊게 된다.
산업혁명 이래 자동화는 편리함과 효율의 또 다른 이름이었다. 이제 새로운 자동화 앞에서, 우리가 편리하고 효율적으로 아낀 시간과 에너지는 무엇을 위해 쓰이고 있는가? 인간과 기술을 대조할 때 필연적으로 따라오는 질문은 기술이 대체하지 못하는 인간의 영역은 무엇인가였다. 그러나 오늘날 우리는 진실로 인간됨의 영역, 인간의 삶을 중요한 것으로 다루고 있는가? 기술 발전은 오랫동안 인간에 대한 유익을 약속해왔지만 지금이야말로 우리가 바라는 유익이 무엇인지, 구체적으로 누구를 위한 것인지 또 어떤 사회를 그릴것인지를 다시 물을 때이다.