인공지능이 만들어낼 위험 사회, 주체 상실과 데이터 숙주로 추락

[김세진]

인공지능이 만들어낼 위험 사회, 주체 상실과 데이터 숙주로 추락

오늘날 인공지능은 내 이야기를 실시간으로 기록하여 나보다 나를 더 잘 아는 존재가 되어갑니다. 오늘 무엇을 먹을지 짐작하고 무엇을 하며 지낼지 안내합니다. 이런 사회 속에서 인간은 자칫 ‘복지 서비스’라는 거대 시스템을 유지하기 위한 존재로 전락할 수 있습니다. 스스로 결정할 힘을 잃고 복지 산업의 수동적인 소비자로 추락할 위험이 있습니다.

우리가 인공지능의 편리함에 길들여질수록, 선택하는 주체가 아니라 알고리즘의 수익을 위해 데이터를 공급하는 숙주가 될 위험이 존재합니다. 따라서 복지 현장에서 효율이라는 명분으로 인공지능을 무비판적으로 도입할 때, 그것이 당사자를 힘 있게(Empowerment) 하는지, 아니면 오히려 당사자의 자연력을 빼앗아(Disempower) 스스로를 돌볼 수 없는 불능 상태(Disabling)로 만드는지 민감하게 살피지 않을 수 없습니다.

인형 로봇과 같은 스마트 노인 돌봄 기술이 ‘인간의 몸을 지속적으로 추적하고 감시하면서 수익을 창출하고, 돌봄노동자와 돌봄대상자 모두 하나의 데이터와 수치로 만드는 데이터 자본주의(김우영, 2021)’라는 비판도 있습니다. 이때 인형 로봇을 사용하는 어르신과 이를 지원하는 사회사업가는, 이를 이용하는 가운데 사용한 개인 정보가 누구에게 닿고 어떻게 재사용되는지 알지 못합니다. ‘그저 자신에게 스마트 노인 돌봄 기술을 제공한 정부와 기업에 고마움을 표현하고 본인이 성공적인 노화의 방법으로 디지털 에이징을 직접 선택’했다고 믿을 뿐입니다. 혹은, 끊어진 사회적 관계를 스스로 회복할 능력이 없고 방법을 모른 채 어쩔 수 없는 선택, 차악이었는지도 모릅니다.

인공지능 개발에는 막대한 자본이 필요합니다. 결국 막강한 자본력을 가진 소수 빅테크 기업이 기술을 독점하고, 이들이 설정한 규칙에 따라 전 세계 사용자가 비용을 지불하는 구조가 고착될 위험이 큽니다. 무료로 서비스를 사용하는 동안 우리는 우리의 고유한 ‘데이터’라는 대가를 이미 지불하고 있습니다. 기업은 이 데이터를 학습해 기술을 고도화하고, 다시 그 고도화된 기술을 우리에게 유료로 파는 구조입니다. 더하여, 사회사업 현장에서도 ‘긴급 지원’이라는 명분 아래 약자의 사생활을 아무 장치나 대가 없이 넘겨줄 위험도 큽니다.

기술 발전으로 얻는 이익이 누구에게 돌아가는지 의심하지 않을 수 없습니다. 이익이 커질수록 사회에 환원하는 게 생각처럼 많지 않기도 합니다. 이익을 기반으로 권력도 형성합니다. 기술 권력은 이제 그 기술 사용 비용을 청구하기 시작할 겁니다. 지난 역사가 이를 말해줍니다. 무료로 제공하였다 보편화 되면 유료로 전환하는 것들이 많습니다. 최근 구글이 앱 내부 결제 때 수수료를 받기 시작했습니다. 일명 ‘구글 통행세’. 기술 자체는 중립적일 수 있지만, 그 기술을 배포하는 ‘비즈니스 모델’은 결코 중립적이지 않습니다.

기술 공공화를 생각하지 않고 기술 발전을 현장 진보로 쉽게 환영하기 조심스럽습니다. 기술이 유료화 되고 필수 인프라가 되면, 비용을 지불할 수 있는 사람과 그렇지 못한 사람 사이의 정보와 생산성 격차는 더 벌어집니다. 과거에는 교육이나 정보가 공적 영역에 있었다면, 이제는 고성능 인공지능을 구독(구매)할 수 있느냐 없느냐가 개인의 경쟁력을 결정하는 시대가 오고 있습니다.

사회사업 현장도 누군가에게는 이윤을 만드는 시장입니다. 그렇다면 사회사업 현장에서 첨단 기술 도입과 유지 활용은 어떤 이에게는 큰 이익이 남는 장사입니다. ‘기술과 관리의 결합’, ‘기술과 자본의 결합’에서 진지하게 물어야 할 게 있습니다. 기술이 중립이라면 그 기술로 무엇을 이루려는지, 먼저 ‘이상’을 묻습니다. 이런 것을 살피지 않고 가져다 쓰는 기술을 의심합니다. 분명한 이상과 정직한 과정 없이 나서면, 당사자를 이해하려는 기술이 자칫 당사자를 이용하려는 기교로 바꿀 수 있습니다. ‘인공지능’은 무료일 수 있으나, ‘인공지능 비즈니스’는 결코 이윤 없이 작동하지 않습니다.

빅데이터와 인공지능은 언제든 조지 오웰의 『1984』 속 ‘빅브라더’로 돌변할 수 있습니다.