AI

[쑹끼]

AI 의사 결정
이렇게 이성적 설명과 불투명한 의사결정 간에, 개인과 대형 시스템 간에, 기술 지식 및 권한을 가진 사람과 그렇지 않은 사람 간에 갈등이 빚어지는 현상 역시 새롭지 않다. 정말 새로운 것은 인간에게 속하지 않고 웬만해서는 인간의 이성으로 설명할 수도 없는 또 다른 지능의 개입이다. 이 새로운 지능은 확산성과 확장성이 대단하다. AI에 관한 지식이나 권한이 없는 사람일수록 이를 거부하고 싶은 충동을 강하게 느낄 수 있다. 자율성 침탈 같은 역효과를 경험하거나 우려해 SNS 같은 AI 기반 네트워크 플랫폼을 기피하고 일상에서(적어도 AI가 의식되는 영역에서는) AI 사용을 최소화하는 사람도 있을 것이다.
더 나아가 ‘가상주의자’가 되지 않고 ‘물리주의자’로 남기를 고집하는 집단도 나올 수 있다. 그들은 아미시나 메노나이트◼︎1처럼 AI를 완전히 거부하고 오로지 신앙과 이성으로만 세워진 세계에서 완강히 버틸 것이다. 하지만 AI가 확산되면 이를 거부하는 활동이 점점 더 외로운 싸움이 된다. 아니, 거부라는 개념 자체가 성립하지 않는다. 사회가 꾸준히 디지털화되고 AI가 꾸준히 정부와 상품에 편입되면 그 영향권을 벗어나기가 사실상 불가능해지기 때문이다.

AI 이후의 세계 중에서

교육과 평생학습
AI와 함께 성장하는 세대는 서로는 물론이고 자기 자신과도 앞선 세대와 다른 성격의 관계를 맺을 것이다. 지금 ‘디지털 네이티브’와 이전 세대의 간극이 존재하듯이 ‘AI 네이티브’와 이전 세대의 간극이 벌어질 전망이다. 미래 세대는 어릴 때부터 알렉사와 구글 홈보다 진화화여 베이비시터, 과외 교사, 상담사, 친구 등 다양한 역할을 수행하는 AI 도우미와 함께 자랄지 모른다. 이런 AI 도우미는 세상에 존재하는 거의 모든 언어와 학문을 가르치고 각 학생의 학습 능력과 방식에 맞춰 학업 성취도를 극대화하는 맞춤형 교육을 제공할 것이다. 그리고 아이가 심심할 때는 친구로, 부모가 외출 중일 때는 보호자로 그 곁을 지킬 것이다. AI 기반의 맞춤형 교육이 도입되면 인간의 평균적 능력이 향상될 가능성과 손상될 위험성이 공존한다.
인간과 AI의 경계에는 구멍이 숭숭 뚫려 있다. 일찍부터 디지털 도우미를 이용하는 아이들은 디지털 도우미가 없는 삶을 상상하기 어려울 것이다. 그리고 디지털 도우미는 주인과 함께 성장하며 주인의 취향과 편견을 내면화할 것이다. 개인에게 맞추어 편의나 성취감을 극대화하도록 설계된 디지털 도우미가 어떤 정보나 경험을 꼭 필요하다고 추천할 때, 인간 사용자는 왜 그것이 다른 것보다 좋은지 설명하지 못할 수 있다.
그렇게 세월이 흐르면 사람들이 인간보다 디지털 도우미를 더 좋아하게 될지 모른다. 타인은 자신의 취향을 척척 알아차리지 못하고 ‘의견 차’가 크기 때문이다(인간은 남의 성격과 욕구를 내면화하지 않으므로). 그렇다면 우리는 인간관계에 덜 의존하게 될지도 모른다. 그럴 때 유년기의 중요한 경험은 어떻게 형성될 것인가? 인간의 감정을 (모방할 수는 있겠으나) 느끼지 못하는 기계가 항상 동반자로서 공존한다면 아이의 세계관과 사회화 과정이 어떻게 달라지는가? 상상력에는 어떤 영향을 미치는가? 놀이의 성격은 어떻게 바뀌는가? 친구를 사귀고 집단에 동화되는 과정은 어떻게 변화할 것인가?
디지털 정보를 이용하면서 이미 젊은 세대의 교육과 문화 경험이 달라졌다는 견해도 존재한다. 이제 세계는 또다시 원대한 실험에 돌입했다. 이전에 인간 교사가 맡았던 다양한 역할을 수행하는 기계, 하지만 인간의 감수성·통찰력·감정은 없는 기계가 아이들과 공존하는 시대로 나아가기 시작했다. 훗날 아마도 이 실험의 참가자들은 자신의 경험이 이전에 예상하거나 수용하지 못했던 방향으로 변화하는지 스스로 물을 것이다.
부모들은 자녀가 일찍부터 그런 기계에 노출되면 어떤 영향을 받을지 확실치 않으므로 반발할지도 모른다. 한 세대 전 부모들이 텔레비전 시청 시간을 제한했고 요즘 부모들이 디지털 기기 사용 시간을 제한하듯, 미래 부모들은 AI 사용 시간을 제한할지 모른다. 하지만 자녀를 출세시키려는 부모, AI를 인간 부모나 교사로 대체할 의향이나 능력이 없는 부모, AI 친구를 원하는 자녀의 욕구를 채워주고 싶은 부모는 AI 파트너를 허용할 것이다. 그러면 아이들은 감수성이 풍부한 시기에 AI와 대화하며 세상을 배우고 세계관을 형성할 것이다.
우리 시대의 모순은 디지털화로 인간이 이용하는 정보가 계속 늘어나지만 진중한 사색에 필요한 공간은 점점 줄어든다는 사실이다. 끊임없이 범람하는 콘텐츠 때문에 사유의 비용이 증가함에 따라 사유의 빈도는 감소한다. 자극을 원하는 인간의 욕구에 맞춰 알고리즘이 우리에게 추천하는 콘텐츠나 경험은 대체로 극적이고, 충격적이고, 감정적이다. 이런 환경에서 진지하게 생각할 공간을 찾기란 쉬운 일이 아니다. 그뿐만 아니라 현재 지배적인 커뮤니케이션 방식도 진득한 사유에 그리 도움이 안 된다.

AI 이후의 세계 중에서
새로운 정보 중개자
4장에서 말했듯이 AI는 우리의 정보 영역에 점점 더 큰 영향을 미친다. 그간 인간은 경험에 필요한 정보를 공급하는 중개자를 만들었다. 바로 복잡한 정보에서 꼭 필요한 내용만 추려 유통하는 조직과 기관이다.3 각 사회는 육체노동과 더불어 정신노동도 분업화해, 시민에게 일반 정보를 제공하는 언론과 전문 교육을 제공하는 대학을 만들었다. 언론과 대학이 정보를 취합·선별·유통하고 그 의미를 정의했다.
이제는 금융·법무 등 고강도 지적 노동이 요구되는 모든 분야에서 AI가 학습 과정에 편입되고 있다. 하지만 인간이 매번 AI가 제공하는 정보의 대표성을 검증하거나, 틱톡과 유튜브 같은 애플리케이션이 특정한 영상을 추천하는 이유를 설명할 수는 없다. 반면에 인간 편집자와 앵커는 특정한 정보를 제공하기로 결정한 이유를 설명할 수 있다(비록 부실하더라도). 인간이 그런 설명을 원하는 한, AI의 시대는 AI의 원리와 프로세스를 이해하지 못하는 대다수에게 실망을 안길 것이다.
AI는 인간의 지식에 이율배반적 영향을 미친다. AI 중개자는 인간 정신이 홀로 처리할 때보다 훨씬 많은 데이터를 처리한다. 하지만 방대한 데이터를 처리하는 능력 때문에 조작과 오류의 여지가 커진다. AI는 기존의 선전 매체보다 인간의 강렬한 감정을 더 잘 이용할 수 있다. 개개인의 취향과 본능에 맞춘 정보를 제공함으로써 개발자나 사용자가 원하는 반응을 끌어낸다. 그래서 AI 중개자가 투입되면 아무리 인간이 제어한다고 해도 개개인 안에 존재하는 편향성이 증폭될 수 있다. SNS 플랫폼과 검색엔진은 치열한 경쟁에서 이기기 위해 사용자가 가장 관심을 보일 만한 정보를 제공한다. 사용자가 보고 싶어 한다고 판단되는 정보가 우선시되면서 사용자의 현실 인식이 왜곡된다. 19~20세기에 기술 발달로 정보의 생산 및 유통 속도가 향상됐다면, 지금은 AI가 개입함으로써 유통되는 정보 자체가 달라진다.

AI 이후의 세계 중에서

어떤 사람은 현실을 왜곡하지 않는, 적어도 대놓고 왜곡하진 않는 정보 필터를 원할 것이다. 또 어떤 사람은 필터들이 내놓는 결과를 비교하며 균형을 잡으려 할 것이다. 그리고 종래의 인간 중개자를 선호해 AI의 필터링을 전면 거부하는 사람도 있을 것이다. 하지만 대다수의 사람은 AI의 중개를 당연하게 받아들이거나 네트워크 플랫폼을 이용하는 대가로 수용할 것이고, 그에 따라 이전처럼 개인이 직접 자료를 조사하고 분석하는 탐구 방식을 고수하는 사람은 세상이 돌아가는 속도를 따라잡기 어려워질지 모른다. 그들이 세상사에 미치는 영향력이 점점 약해질 것이다.
AI가 개개인의 오랜 신념을 확증하는 ‘뉴스’만 선별해서 보여주거나 오래전에 사망한 배우가 ‘출연’하는 영화를 만드는 등 정보와 오락 콘텐츠가 개인화되고 실감나게 합성된다면, 한 사회의 구성원들이 과연 그 사회의 역사와 현재를 공통되게 인식할 수 있을까? 사회에 공통된 문화가 존재할 수 있을까? AI가 한 세기 동안 만들어진 음악이나 방송을 분석해 ‘히트작’을 만들면 창작의 산물이라 해야 할까, 단순한 짜깁기의 결과물이라 해야 할까? 작가·배우·화가처럼 인간의 고유한 능력을 발휘해 현실과 인생의 경험을 작품으로 승화하는 사람이라고 지금껏 여겨졌던 창작자들을 보는 자타의 시선이 그대로 유지될까

AI 이후의 세계 중에서

인간의 새로운 미래
이성과 신앙은 AI의 시대에도 존재하겠지만 그 성질과 작용 범위는 기계가 사용하는 새롭고 강력한 논리의 영향을 크게 받을 것이다. 인간이 여전히 생명체 중에서는 최고의 지능을 보유한 존재로 여겨지더라도, 인간의 이성이 현실을 이해하기 위해 유일하게 사용되는 지능으로 존재하지는 않을 것이다. 이제 이 세상에서 우리의 위상을 파악하려면 이성을 중시하던 시각에서 벗어나 인간의 존엄성과 자율성을 중심에 둬야 할지도 모른다.
계몽주의는 인간의 이성을 정의하고 이전 시대와 비교해 이해하려고 했던 사상이다. 토머스 홉스, 존 로크, 장 자크 루소를 위시한 계몽주의 정치철학자들은 자연 상태에 관한 이론을 토대로 인간성과 사회구조를 설명하는 견해를 정립했다. 그래서 지도자들은 어떻게 하면 지식을 취합하고 객관적으로 보급해서 계몽된 정부를 만들고 인류를 번영시킬지 물었다. 그처럼 인간의 본질을 이해하기 위한 전방위적 노력이 없다면 AI시대에 일어나는 혼란을 가라앉히기 어려울 것이다.
신중론자들은 AI의 범용성을 거부하며 AI를 사용하는 시점·장소·방식을 제한해야 한다고 주장할지 모른다. 그리고 여전히 인간이 최종 결정권을 쥐고 AI는 어디까지나 보조로만 사용하려는 사회나 개인도 있을 것이다. 하지만 치열한 경쟁 때문에 섣불리 AI를 제한하기 어려운 현실을, 5장에서 논한 안보의 딜레마가 확실히 보여준다. 윤리나 법으로 AI의 사용을 철저히 제한하지 않는 이상, 경쟁사가 AI로 새로운 상품이나 서비스를 출시하는데 어떤 기업이 선뜻 AI 사용을 포기하겠는가? 관료·설계자·투자자가 AI로 쉽게 결과나 결론을 예측할 수 있다면 무슨 근거로 AI를 거부하겠는가? 사용을 제한하는 조치가 아무리 표면상으로 바람직해 보일지라도 너도나도 AI를 도입하도록 부추기는 경쟁 환경을 고려하면, 국가적 혹은 국제적 차원에서 명문화하지 않는 이상 실질적 성과를 기대하긴 어렵다.
AI가

AI 이후의 세계 중에서

AI가 물질세계와 디지털 세계를 탐색하고 관리하는 주체가 될 수 있다. 많은 분야에서 사람들이 인간 정신의 한계를 초월하는 AI의 결정을 선뜻 따를지도 모른다. 그러면 많은 사람이 자신에게 맞춰 필터링된 세계에 갇힐 수 있다. 이 시나리오가 실현되면 도처에서 은연중에 작용하는 AI의 위력 앞에 과연 자유 사회는 물론이고 자유의지가 존재할 수 있는지 의문이 제기될 것이다.
앞으로는 다방면에서 AI와 인간이 동등한 파트너로서 세계를 탐색할 것이다. 그러면 인간이 AI와, 또 현실과 새롭게 형성한 관계를 반영해 인간의 정체성이 변한다. 각 사회에서 인간이 주도하는 분야와 그렇지 않은 분야가 나뉘고, 그와 함께 AI를 이해하고 AI와 생산적으로 상호작용하기 위해 필요한 사회구조와 관습이 형성된다. 한편으로는 AI가 특유의 지능으로 최대한 인간의 편익을 향상하도록 지능적·심리적 인프라도 조성해야 한다. AI는 사회정치적으로 많은 부분에서, 아니 거의 모든 부분에서 그런 변화를 촉구할 것이다.
AI가 대대적으로 투입될 때마다 균형 유지가 중요하다. 각 사회와 지도자는 사람들 각자에게 당신이 AI를 상대하고 있으며 그것이 이러이러한 능력을 발휘한다고 언제 통보할지 정해야 한다. 그 결과로 AI시대를 사는 인간의 정체성이 새롭게 정립된다.
어떤 사회와 기관은 이런 변화에 서서히 적응할 것이다. 반대로 어떤 사회와 기관은 현실과 스스로를 인식하는 방식에서 근본적 가정과 충돌한다고 느낄 것이다. AI는 정보의 이용과 교육을 촉진하는 동시에 개개인의 현실 인식이 증폭되고 왜곡될 가능성을 키우므로 그런 충돌의 규모가 더욱 커진다. 그리고 더 많은 정보와 도구를 보유하고 더욱 관점이 확고해진 개인들이 정부에 더 많은 것을 요구할지도 모른다.
그래서 여러 원칙이 등장한다. 우선 인간의 자율성을 보존하려면 정부의 중대한 활동은 AI 기반 시스템이 아닌 인간의 결정과 관리하에 둬야 한다.

AI 이후의 세계 중에서

인간을 ‘정치적 동물’이라 칭한 아리스토텔레스의 시대 이래로 이성과 함께 인간의 주요한 특징으로 꼽힌 것이 복잡한 사회를 형성하고 협력하는 능력이다. 그리하여 각 사회에는 분쟁을 평화적으로 해결하는 기본 원칙들이 존재한다. 그 원칙들에 의거해 정당한 수단으로 질서를 유지해야 한다. 정당성을 무시하고 질서를 잡으려 한다면 폭력에 불과하다.
정부의 핵심적인 활동을 인간이 결정하고 감독할 때만 바로 그 정당성을 확보할 수 있다. 예를 들어 법을 집행할 때 법원이 상식과 도덕에 입각해 판결의 이유를 제시하고, 당사자들이 공정성을 따져본 후 만일 사회의 도덕 원칙에 부합하지 않는다고 판단하면 이의를 제기할 수 있어야 판결의 정당성이 확보된다. 따라서 AI시대에도 중대한 판단을 하는 주체는 올바른 자격을 갖추고 이유를 제시할 수 있으며 익명이 아닌 인간이어야 한다.
같은 맥락에서 민주주의에도 인간성이 유지돼야 한다. 그러자면 일단 민주적 논의와 선거가 훼손되지 않아야 한다. 민주적 논의를 하기 위해서는 개개인에게 발언의 기회가 주어져야 하고, 인간의 발언이 AI에 의해 왜곡되지 않아야 한다. 인간에게는 언론의 자유가 보장돼야 하지만 AI에게도 그런 자유가 허락되면 안 된다. 4장에서 말했듯이 AI는 실제 영상이나 오디오와 분간이 잘 안 가는 딥페이크처럼 부정확한 정보를 고품질로 대량 생성할 수 있다. 아무리 인간이 원해서 자동으로 말하는 AI가 탄생했다고 해도, AI가 만드는 말은 진짜 인간이 하는 말과 쉽게 구별돼야 한다. 잘못된 정보와 허위정보(악의적으로 날조된 정보)의 유통을 방지하기 위해, 쉽진 않아도 AI의 개입을 반드시 규제해야 한다.
민주주의는 언론의 자유를 토대로 시민이 정보를 공유하고, 절차에 참여하고, 소설과 시와 예술로 자기를 표현할 수 있어야 성립한다.4 AI가 만드는 거짓된 발언은 아무리 인간의 말과 유사하다고 해도 인간의 발언을 가리거나 왜곡할 뿐이다. 따라서 잘못된 정보를 생성하는 AI의 확산을 방지해야 시민이 자유로운 발언과 논의로 민주적

AI 이후의 세계 중에서

AI가 실제로는 만난 적 없는 공인 두 사람이 만나서 대화하는 콘텐츠를 만들었다면 잘못된 정보, 오락 콘텐츠, 정치적 탐구 중 무엇으로 분류해야 하는가? 혹시 그 답이 맥락에 따라, 혹은 참여자에 따라 달라져야 하는가? 개인에게는 동의 없이 현실의 시뮬레이션에 포함되지 않을 권리가 있는가? 만일 동의했다면 시뮬레이션 속의 발언이나 모습에 조금이라도 진실성이 더해지는가?
각 사회는 제일 먼저 다양한 영역에서 AI의 사용이 허용되고 허용되지 않는 범위를 정해야 한다. AGI처럼 강력한 AI는 악용을 방지하기 위해 철저히 규제해야 한다. AGI는 어마어마한 개발 비용이 들기 때문에 아마도 개발할 수 있는 주체가 소수에 불과하고, 그래서 자연스럽게 사용이 제한될 것이다. 어떤 규제는 자유로운 사업 활동과 민주적 절차에 관한 사회의 통념에 위반될지도 모른다. 그런가 하면 AI를 이용한 생물학 무기 생산을 금지하는 것 같은 규제는 당연히 확립돼야 하지만 국제적 공조가 필요하다.
이 글을 쓰는 현재 EU는 사생활 보호와 언론의 자유 등을 중시하는 유럽의 가치관과 유럽 기반 AI 기업의 육성이라는 경제적 필요 사이에서 균형을 잡기 위해 AI 규제안의 기초를 마련했다.5 이 규제안은 국가가 감시용 AI를 포함해 AI 연구개발에 전폭적으로 투자하는 중국의 노선과, 민간이 연구개발을 주도하는 미국의 노선 사이로 난 길을 추구한다. EU의 노선은 기업과 정부가 데이터와 AI를 사용하는 방식을 통제하면서도 유럽 기반 AI 기업을 키우는 것이다. EU의 규제안에는 AI의 다양한 용법에 내재하는 위험성을 평가하고, 안면인식처럼 위험성이 높다고 판단되는 기술을 사용하지 못하도록 정부에서 제한하거나 금지하는 방안이 포함됐다(물론 안면인식이 위험하기만 한 기술은 아니고 실종자 수색과 인신매매 방지 등에 유용하게 쓰일 수 있다). 이제 시작 단계라 앞으로 많은 논의를 거쳐 규제안이 개정되겠지만, 시민의 생활양식을 발전시키고 더 나은 미래를 열어주리라 기대되는 AI를 적절히 제한하고자 하는 E

AI 이후의 세계 중에서

결국에는 이런 노력이 제도화로 이어질 것이다. 미국은 이미 여러 학술 조직과 자문기구에서 인공지능의 부상이 기존의 절차와 구조에 미칠 영향을 연구하기 시작했다. 예를 들면 MIT에서 노동의 미래를 예측하는 프로젝트를 진행 중이고,6 정부에 인공지능국가안보위원회NSCAI가 설치됐다.7 분석을 완전히 포기하는 사회는 뒤처질 수밖에 없다. 적극 탐구하여 선제적으로 제도를 개편하거나, 다음 장에서 설명하겠지만 완전히 새로운 제도를 확립함으로써 대량 실직 사태를 방지하고 인간과 AI의 협업에서 거둘 수 있는 물질적·지적 혜택을 극대화하는 사회가 앞서갈 것이다. AI가 계속 발전하는 세상에서는 그에 걸맞은 제도가 반드시 확립돼야 한다.

AI 이후의 세계 중에서