AI 이후

[쑹끼]

현실과 인간에 관한 인식
AI가 탐색하는 현실, 혹은 AI의 도움으로 탐색하는 현실은 이전에 인간이 상상했던 것과 다를 수 있다. 그 속에는 인간이 포착하지 못했거나 개념화할 수 없는 패턴이 존재할지 모른다. AI가 도달한 현실의 기저는 인간의 언어만으로 설명되지 않을 수 있다. 우리의 동료 중 한 명은 알파제로를 언급하며 “이런 사례에서 볼 수 있듯이 인간의 의식에 허락되지 않은 앎의 방식이 존재한다”고 썼다.8
현재 우리가 보유한 지식의 한계를 넘어서려면 AI에게 우리가 진입할 수 없는 영역의 탐사를 명해야 할지도 모른다. 이때 AI가 갖고 돌아오는 패턴이나 예측을 우리가 완전히 이해하지 못할 수 있다. 그렇다면 평범한 인간의 경험을 초월하는 내밀한 현실이 존재한다고 봤던 영지주의자들의 주장을 재조명해야 할지도 모른다. 우리는 인간의 정신 구조와 전통적 사고 패턴에서 조금 더 벗어나 순수한 지식에 한 걸음 더 가까이 다가설 것이다. 그러면 현실의 유일한 인지자라고 여겼던 우리의 역할을 재정의하고, 우리가 탐색한다고 생각했던 현실도 재정의해야 한다. 설령 AI가 보여주는 현실이 당혹스럽진 않더라도 우리가 서로 간에, 그리고 현실과 상호작용하는 방식은 달라질 수 있다.
AI가 두루 보급되면 인간이 어느 때보다도 효과적으로 주변 환경을 인지하고 체계화할 수 있게 된다고 생각하는 사람도 나올 것이다. 반대로 또 어떤 사람은 우리의 능력이 과거에 생각했던 수준만큼 뛰어나지 않다고 말할 것이다. 이런 식으로 우리 자신과 속한 현실을 재정의하면, 우리의 기본적인 가정이 바뀌고 그와 함께 사회적·경제적·정치적인 합의도 달라진다. 중세에는 인간이 ‘이마고 데이imago Dei’(신의 형상)를 닮은 존재로 정의되고, 봉건제 농경 질서가 유지되고, 왕권이 존중되고, 우뚝 솟은 교회의 첨탑이 숭앙됐다. 이성의 시대에는 ‘코기토 에르고 숨’이라는 기치하에 새로운 지평이 활발히 탐색되면서 개인에게도 사회에도 숙명에 관한 인식에 인간의 주체성이라는 개념이 파고들었다.

AI 이후의 세계 중에서

AI시대에는 아직 기본적인 이념도, 도덕론도, 추구해야 할 것과 제한해야 할 것도 정립되지 않았다.
AI 혁명은 대부분의 예상보다 빠르게 발생할 것이다. 그에 따르는 변화를 설명하고, 해석하고, 체계화하는 개념들을 확립하지 않는다면 우리는 길을 잃고 만다. 도덕적·철학적·심리적·실용적 차원에서, 즉 모든 차원에서 우리는 새 시대의 벼랑에 서 있다. 이성·신앙·전통·기술이라는 유서 깊은 자원을 활용해 여전히 세계에 인간성이 유지되도록, 현실과 우리의 관계를 재정립해야 한다.

AI 이후의 세계 중에서

AI시대가 제기하는 역사적·철학적 과제는 15세기 유럽에서 인쇄술의 발달이 불러온 변화에 견줄 수 있다. 중세 유럽은 지식을 중시했지만 책이 귀했다. 누군가가 문학 작품을 쓰거나 사실, 전설, 종교적 가르침을 엮은 백과사전류를 편찬했을 때 극소수의 독자만 그 저작을 입수할 수 있었다. 대부분의 사람에게 독서를 통한 간접 경험이란 불가능했고 지식은 대부분 구두로 전달됐다.
1450년 독일 마인츠의 금세공인 요하네스 구텐베르크가 빚을 내서 실험적 인쇄기를 만들었다. 비록 성과가 기대에 못 미쳐 사업이 휘청거리고 빚쟁이들에게 고소당했으나, 1455년 마침내 유럽 최초의 인쇄물인 구텐베르크 성경이 탄생했다. 이후 구텐베르크의 인쇄기가 불러온 혁명은 서양인의 생활 구석구석에 영향을 미치고 전 세계로 확산됐다. 1500년에는 유럽에서 900만 권의 책이 유통됐다고 추정되며 책값도 예전과 비교가 안 될 만큼 저렴했다. 성경이 (라틴어가 아닌) 일상의 언어로 널리 보급되고 역사·문학·어법·논리에 관한 고전고대의 저작이 불티나게 팔렸다.1
인쇄기가 탄생하기 전 중세 유럽인은 주로 공동체의 전통에 참여해 지식을 습득했다. 수확과 계절 활동에 참여해 민간의 지혜를 얻고, 예배당의 성례에 참여해 신에 관하여 배우고, 길드에 입회해 기술을 익히며 전문가 네트워크에 합류했다. 새로운 정보나 사상(외국 소식, 혁신적 농경 기술이나 기계 기술, 새로운 신학적 해석)이 나오면 공동체에서 구두로 전해지거나 필사한 원고로 전달됐다.
하지만 인쇄물이 널리 보급되면서 개인과 지식의 관계가 변했다. 새로운 정보와 사상이 더 다양한 경로로 빠르게 확산됐다. 개인이 유익한 정보를 스스로 찾아서 학습할 수 있었다. 직접 원문을 보면서 그간 진리로 통했던 것이 진짜인지 확인했다. 소신 있는 사람들이 적당한 재원을 마련하거나 후원자를 확보해서 아이디어와 견해를 책으로 출간했다. 수학과 과학의 성취가 유럽 전역에 순식간에 퍼졌다. 소책자 교환이 정치적·종교적으로 논의하는 한 방법으로 인정됐다.



새로운 사상이 전파되며 기성 질서가 와해되거나 쇄신되어 종교가 변하고(종교개혁), 정치혁명이 일어나고(주권에 관한 인식 변화), 새로운 과학 지식이 습득됐다(현실을 설명하는 개념 재정립).
이제 우리 앞에 새 시대가 임박했다. 또다시 기술이 지식, 발견, 커뮤니케이션, 개인의 사유를 바꿀 것이다. 인공지능은 인간이 아니다. AI는 희망하지 않고, 기도하지 않고, 느끼지 않는다. 의식도 없고 성찰 능력도 없다. AI는 인간의 피조물로서 인간이 만든 기계에 인간이 설계한 프로세스를 실행할 뿐이다. 하지만 때로는 지금껏 인간의 이성으로만 도출할 수 있었던 것과 유사한 결과를 어마어마한 규모와 속도로 도출한다. 그 결과가 충격적일 때도 있다. 그래서 AI는 우리가 생각지 못했을 만큼 극적인 현실의 측면을 드러낸다. AI를 파트너 삼아 능력을 향상하거나 아이디어를 실현하고자 하는 개인과 사회는 과학적·의학적·군사적·정치적·사회적으로 이전과 비교도 되지 않는 위업을 달성할지 모른다. 하지만 인간의 지능을 흉내내는 기계가 더 좋은 결과를 더 빨리 도출하는 필수 요소로 간주된다면, 역으로 인간의 이성만 사용하는 건 구시대적 행태로 취급될 것이다. 새 시대가 정립된 후에는 이성을 사용하는 행위의 의미가 달라질 수 있다.
15세기 유럽에서 발생한 인쇄 혁명으로 새로운 사상과 담론이 탄생해 기존의 생활양식이 파괴되기도 하고 증진되기도 했다. AI 혁명도 비슷한 결과를 부른다. 새로운 정보가 탄생하고 과학과 경제가 눈부시게 발전하며 세상이 변할 것이다. 하지만 그런 변화가 담론에 미칠 영향은 단언하기 어렵다. AI는 인간이 무수한 디지털 정보를 탐색하게 도우면서 전에 없던 지식과 이해의 지평을 열 것이다. 혹은 방대한 데이터 속에서 AI가 발견한 패턴을 토대로 형성된 금언이 지역 및 글로벌 네트워크 플랫폼에서 정론으로 받아들여질 수도 있다. 그러면 현시대의 중요한 특성으로 꼽히는 인간의 회의적 탐구 능력이 위축될 것이다. 더욱이 여러 사회와 네트워크 플랫폼이 각각 현실을 정반

정반대로 해석하며 갈라질 수 있다.
AI는 인간을 발전시키느냐 망가뜨리느냐(잘못 사용될 경우)를 떠나서 그 존재만으로 우리의 근본적 가정을 뒤흔들고 때로는 초월한다. 지금까지는 우리 인간이 홀로 현실을 탐구하며 세계에서 우리의 위치를 정하고 우리와 세계의 관계를 정의했다. 그 토대 위에서 철학이 발전하고, 정부가 수립되고, 군사 전략이 입안되고, 도덕률이 형성됐다. 그런데 이제는 AI 때문에, 현실이 그간 인간이 홀로 이해했던 모습과 다르며 어쩌면 더 복잡할 수도 있다고 밝혀졌다. AI가 성취하는 업적이 내로라하는 인간 사상가가 전성기에 성취하는 것만큼 파격적이어서, 새로운 아이디어를 제안하거나 기존 관념에 이견을 제시하며 우리의 해석을 요구할 수 있다. 그리고 AI가 일상적이고 평범한 행위에 보이지 않게 관여해서 은연중에 형성하는 경험이 우리에게 딱 알맞게 느껴지는 일이 비일비재할 것이다.
우리는 AI가 정해진 한계 내에서 성취하는 결과가 인력으로 성취하는 결과에 필적하거나 그보다 뛰어날 수 있음을 인정해야 한다. 이때 AI는 어디까지나 인간의 창조물이어서 우리의 의식과 같은 수준으로 현실을 경험할 수는 없다는 말이 위안이 될지도 모르겠다. 하지만 AI가 가공할 논리력을 발휘하고, 기술적 혁신을 이루고, 통찰력 있는 전략을 수립하고, 복잡다단한 시스템을 정밀하게 관리하는 등 놀라운 능력을 보일 때, 우리는 우리와 다른 지능적 존재가 또 다른 차원에서 현실을 경험한다는 사실을 받아들일 수밖에 없다.
AI가 우리 앞에 새로운 지평을 열고 있다. 이전에는 인간 정신의 한계 때문에 우리가 데이터를 취합하고 분석하는 능력, 뉴스와 대화를 필터링하고 처리하는 능력, 디지털 세상에서 커뮤니케이션하는 능력이 제약됐다. AI는 그런 방면에서 우리를 지원한다. 정보를 찾고, 종래의 알고리즘이 아예 발견하지 못했던, 혹은 원활하고 효율적으로 발견하지 못했던 추세를 찾아낸다. 그래서 물리적 현실을 넓히는 동시에 현재 급성장 중인 디지털 세상을 확장하고 조직한다.
하지만 AI에

AI 이후의 세계 중에서

하지만 AI에 득만 있진 않다. AI는 지금 우리가 아는 의미의 이성을 약화하는 움직임을 촉진한다. SNS는 사유의 공간을 축소하고, 온라인 검색은 개념을 습득하려는 의지를 감소한다. 이전의 알고리즘도 인간에게 ‘중독성’ 있는 콘텐츠를 잘 전달했지만 AI는 그 방면으로 훨씬 유능하다. 그래서 사람들이 심층적 독서와 분석을 덜 하고, 그런 행위에 전통적으로 따르던 보상도 줄어든다. 디지털 세상을 거부할 때 치러야 할 대가가 커지면서 그 세상이 인간의 사고에 미치는 영향력, 곧 인간의 주의를 끌거나 분산하고 무언가를 믿게 만드는 힘이 강해진다. 그 결과로 정보를 검토·검증·해석할 때 인간이 수행하는 역할이 축소되는 대신 AI의 역할이 확대된다.
낭만주의자들은 인간의 감정이 중요한 정보의 원천이라고 주장했다. 그들은 주관적 경험이 진실의 한 형태라고 봤다. 포스트 모더니스트들은 낭만주의에서 더 나아가 주관적 경험이라는 필터로 객관적 현실을 식별할 수 있지 않겠냐고 질문했다. AI는 거기서 훨씬 더 나아가 역설적 결과를 낳을 것이다. 심층적 패턴을 포착해서 새로운 객관적 사실을, 예를 들면 질병의 존재, 산업재해나 환경재해의 조짐, 안보의 위험 신호를 규명할 것이다. 하지만 미디어·정치·담론·엔터테인먼트의 영역에서는 AI가 우리의 기호에 맞게 정보를 재가공함에 따라 편견이 확증·심화되면서, 우리가 객관적 진실을 이해하고 합의하기 어려워진다. 그래서 AI시대에 인간의 이성은 확장되면서도 위축될 것이다.

AI가 구석구석에 들어와 일상을 확장하고 변형한다면 인간은 상충하는 충동을 느낄 것이다. 비전문가는 이해할 수 없는 기술 앞에서 AI의 판결을 신의 판결과 동급으로 받아들이고 싶을지 모른다. 그런 충동은 비록 오해에서 비롯됐다고 하나 어느 정도 이해된다. 자신이 해석하거나 통제할 수 없는 지능이 생소하면서도 유익한 결론을 도출하는 세상에서, 그 결정을 따르는 것이 과연 어리석은 짓일까? 이런 논리에 의해 다시 주술적

이런 논리에 의해 다시 주술적 세계관이 만들어진다. 이번엔 AI가 신의 대리인이 되어 계시를 내리고 일부 인간이 그 지시를 맹목적으로 따르는 구도다. 특히 AGI가 신과 같은 지능으로 세계를 이해하고 그 구조와 안에 내포된 가능성을 직감하는 초인적 존재로 여겨질 수 있다.
하지만 AI를 맹종하면 인간의 이성이 발휘하는 힘과 그 힘이 미치는 범위가 감소해 반발을 부를 공산이 크다. 지금 SNS를 차단하고 자녀가 스크린을 보는 시간을 제한하며 유전자 조작 식품을 거부하는 사람들이 존재하듯, 앞으로 이성의 영역을 보전하기 위해 ‘AI 세상’을 거부하거나 AI 시스템에 노출되는 시간을 제한하는 사람들이 나타날 것이다. 자유주의 국가라면 그런 선택이 적어도 개인에게나 가정에서는 가능할 것이다. 하지만 대가가 따른다. AI 사용을 거부한다면 영화나 경로 추천 같은 편리한 기능을 배척하는 데서 그치지 않고 의료·금융 등 각종 분야에서 데이터, 네트워크 플랫폼, 첨단기술이 얽혀 만드는 방대한 발전상을 포기해야 하기 때문이다.
문명의 차원에서는 AI를 포기할 수 없다. 지도자들은 AI의 활용을 감독할 막중한 책임이 있으므로 그 파급효과에 성실히 대응해야 할 것이다.
AI시대의 특성을 잘 반영하고 시대의 지침이 될 윤리체계를 확립하는 일이 무엇보다 중요하다. 이는 어느 한 분야에 맡길 수 없는 과업이다. AI를 개발하는 컴퓨터과학자와 기업가, AI를 배치하길 원하는 군사 전략가, AI를 조성하려는 정치 지도자, AI의 더 깊은 의의를 탐구하는 철학자와 신학자는 각자의 위치에서 큰 그림의 작은 조각만 볼 수 있을 뿐이다. 이들이 모두 논의에 참여해서 선입견에 휘둘리지 않고 의견을 교환해야 한다.
AI를 배치할 때마다 인류는 세 가지 길 중 하나를 선택할 수 있다. AI를 제한하거나, AI와 협력하거나, AI를 따르는 길이다. 그 선택에 따라 특정한 작업이나 영역에서 AI를 활용하는 방식이 달라질 것이다.

AI 이후의 세계 중에서

선택에 앞서 우리는 실용적 차원만 아니라 철학적 차원을 고려해야 한다. 예를 들어 항공기나 자동차에 긴급 사태가 발생했을 때 AI 부조종사가 인간의 판단을 따라야 하는가? 아니면 그 반대인가? AI의 용처마다 셋 중 한 노선을 선택해야 한다. 그렇게 정해진 노선이, 이후 AI의 역량이 증진되고 인간이 AI의 결과물을 테스트하는 방법이 향상하면서 달라지기도 할 것이다. 필요하다면 인간이 AI를 따라야 한다. 만일 AI가 유방조영상에서 인간보다 빠르고 정확하게 유방암을 발견한다면 AI를 사용하는 것이 곧 사람을 살리는 길이다. 또 어떤 경우에는 AI와 협력하는 게 최선이다. 가령 현재 항공기의 자동운항 시스템과 유사하게 작동하는 자율주행차가 나온다면 인간과 AI의 협력이 바람직하다. 하지만 경우에 따라서는, 예를 들어 군사 방면에서는 명확하게 기술되고 인지된 원칙에 따라 엄격히 AI를 제한해야 한다.
AI는 우리가 지식을 대하고 얻는 방식을 바꾸고 습득 가능한 지식의 유형을 확장한다. 현시대에는 인간의 정신이 데이터를 취합·분석해서 습득하는 지식과, 관찰 및 깨달음으로 습득하는 지식을 중시한다. 테스트로 검증 가능한 단칭명제◼︎1를 진리의 이상적 형태로 여긴다. 하지만 AI시대에는 지식이라는 개념이 인간과 기계의 협력에서 나오는 결과물로 재정의된다. 우리가(인간이) 만들고 실행하는 (컴퓨터) 알고리즘이 더 많은 데이터를 인간의 정신과 다른 논리로 더 빠르고 체계적으로 분석할 것이다. 때로는 거기서 우리가 기계와 협력하기 전에는 인지하지 못했던 세계의 속성이 드러날 것이다.
AI는 이미 인간의 지각을 넘어섰다. 그 비결은 시간의 압축 내지는 ‘시간 여행’이라고 표현할 수 있다. AI는 고도의 알고리즘과 강력한 컴퓨터 성능에 힘입어 인간의 정신으로는 수십, 수백 년이 걸릴 프로세스로 데이터를 분석하고 학습한다. 하지만 시간과 컴퓨터 성능만으로 AI를 다 설명할 수는 없다.

AI 이후의 세계 중에서

한 세대 전 부모들이 텔레비전 시청 시간을 제한했고 요즘 부모들이 디지털 기기 사용 시간을 제한하듯, 미래 부모들은 AI 사용 시간을 제한할지 모른다. 하지만 자녀를 출세시키려는 부모, AI를 인간 부모나 교사로 대체할 의향이나 능력이 없는 부모, AI 친구를 원하는 자녀의 욕구를 채워주고 싶은 부모는 AI 파트너를 허용할 것이다. 그러면 아이들은 감수성이 풍부한 시기에 AI와 대화하며 세상을 배우고 세계관을 형성할 것이다.
우리 시대의 모순은 디지털화로 인간이 이용하는 정보가 계속 늘어나지만 진중한 사색에 필요한 공간은 점점 줄어든다는 사실이다. 끊임없이 범람하는 콘텐츠 때문에 사유의 비용이 증가함에 따라 사유의 빈도는 감소한다. 자극을 원하는 인간의 욕구에 맞춰 알고리즘이 우리에게 추천하는 콘텐츠나 경험은 대체로 극적이고, 충격적이고, 감정적이다. 이런 환경에서 진지하게 생각할 공간을 찾기란 쉬운 일이 아니다. 그뿐만 아니라 현재 지배적인 커뮤니케이션 방식도 진득한 사유에 그리 도움이 안 된다.
새로운 정보 중개자
4장에서 말했듯이 AI는 우리의 정보 영역에 점점 더 큰 영향을 미친다. 그간 인간은 경험에 필요한 정보를 공급하는 중개자를 만들었다. 바로 복잡한 정보에서 꼭 필요한 내용만 추려 유통하는 조직과 기관이다.3 각 사회는 육체노동과 더불어 정신노동도 분업화해, 시민에게 일반 정보를 제공하는 언론과 전문 교육을 제공하는 대학을 만들었다. 언론과 대학이 정보를 취합·선별·유통하고 그 의미를 정의했다.
이제는 금융·법무 등 고강도 지적 노동이 요구되는 모든 분야에서 AI가 학습 과정에 편입되고 있다. 하지만 인간이 매번 AI가 제공하는 정보의 대표성을 검증하거나, 틱톡과 유튜브 같은 애플리케이션이 특정한 영상을 추천하는 이유를 설명할 수는 없다. 반면에 인간 편집자와 앵커는 특정한 정보를 제공하기로 결정한 이유를 설명할 수 있다(비록 부실하더라도). 인간이 그런 설명을 원하는 한, AI의 시대는 AI의 원리와 프로세스를 이해하지 못하

AI 이후의 세계 중에서

필요하다면 인간이 AI를 따라야 한다. 만일 AI가 유방조영상에서 인간보다 빠르고 정확하게 유방암을 발견한다면 AI를 사용하는 것이 곧 사람을 살리는 길이다. 또 어떤 경우에는 AI와 협력하는 게 최선이다. 가령 현재 항공기의 자동운항 시스템과 유사하게 작동하는 자율주행차가 나온다면 인간과 AI의 협력이 바람직하다. 하지만 경우에 따라서는, 예를 들어 군사 방면에서는 명확하게 기술되고 인지된 원칙에 따라 엄격히 AI를 제한해야 한다.
AI는 우리가 지식을 대하고 얻는 방식을 바꾸고 습득 가능한 지식의 유형을 확장한다. 현시대에는 인간의 정신이 데이터를 취합·분석해서 습득하는 지식과, 관찰 및 깨달음으로 습득하는 지식을 중시한다. 테스트로 검증 가능한 단칭명제◼︎1를 진리의 이상적 형태로 여긴다. 하지만 AI시대에는 지식이라는 개념이 인간과 기계의 협력에서 나오는 결과물로 재정의된다. 우리가(인간이) 만들고 실행하는 (컴퓨터) 알고리즘이 더 많은 데이터를 인간의 정신과 다른 논리로 더 빠르고 체계적으로 분석할 것이다. 때로는 거기서 우리가 기계와 협력하기 전에는 인지하지 못했던 세계의 속성이 드러날 것이다.
AI는 이미 인간의 지각을 넘어섰다. 그 비결은 시간의 압축 내지는 ‘시간 여행’이라고 표현할 수 있다. AI는 고도의 알고리즘과 강력한 컴퓨터 성능에 힘입어 인간의 정신으로는 수십, 수백 년이 걸릴 프로세스로 데이터를 분석하고 학습한다. 하지만 시간과 컴퓨터 성능만으로 AI를 다 설명할 수는 없다.
범용인공지능

인간과 AI는 서로 다른 관점에서 동일한 현실에 접근하는 상호보완적 관계일까? 아니면 부분적으로 겹칠 뿐 애당초 서로 다른 현실을 인지할까? 즉, 인간이 이성으로 탐색할 수 있는 현실과 AI가 알고리즘으로 탐색할 수 있는 현실이 각기 따로 존재할까? 만일 그렇다면 AI가 인지하는 것을 우리가 인지하지 못하는 이유는 단순히 우리 정신이 그것에 도달할 시간이 부족해서가 아니라, 애초에 그것이 우리의 정신으로 이해할 수 없는 영역에 존재하기 때문이라고 봐야 한다. 그러면 세계를 완전히 이해하기 위한 인류의 탐구 행위가 달라질 수밖에 없다. 이미 우리는 AI에게 탐색을 일임하여 습득 가능한 지식이 존재한다고 인정하느냐 마느냐 하는 갈림길에 서 있다. AI와 우리가 인지하는 것이 동일한 현실의 다른 부분이든 별개의 현실이든 간에, 앞으로는 AI가 점점 더 다양하고 심층적인 목적을 추구하며 우리와 함께 세상을 경험하고 알아가는 ‘존재’라는 인식이 강해질 것이다. 즉, AI가 우리의 도구요 반려동물이요 정신의 보조자라는 위상을 획득할 것이다.
이런 고민은 연구자들이 범용인공지능AGI에 접근할수록 더 깊어진다. 3장에서도 말했지만 AGI는 특정한 작업을 학습하고 수행하는 데 그치지 않고 다방면에서 인간이 하는 것과 비슷한 작업을 학습하고 수행하는 AI다. AGI를 개발하려면 막강한 컴퓨터 성능이 필요하기 때문에 아마도 재원이 풍부한 소수의 조직만 뛰어들 수 있을 것이다. 하지만 아무리 AGI가 다용도로 만들어진다고 해도, 그 역량을 고려하면 현재의 AI처럼 사용처가 제한돼야 한다. 그러려면 승인받은 조직만 AGI를 운용해야 한다. 여기서 이런 의문이 든다. 누가 AGI를 제어할 것인가? 승인의 주체는 누구인가? 소수의 ‘천재적’ 기계를 소수의 조직이 운용하는 세상에서 민주주의가 성립 가능한가? 그런 조건에서 AI와 인간의 협력은 어떤 식으로 전개될까?
AGI의 등장은 지적·과학적·전략적 쾌거가 될 것이다. 하지만 꼭 AGI가 등장하지 않더라도 AI는 어차피 인간의

삶에 혁명적 변화를 초래한다.
AI는 그 역동성과 창발성, 즉 예상치 못한 행동과 해법을 도출하는 능력 때문에 이전의 기술과 차별화된다. 규제하고 통제하지 않으면 우리의 예상에서 벗어나고, 따라서 우리의 의도에서 벗어날 수 있다. 그런데 AI를 제한하느냐, AI와 협력하느냐, AI를 따르느냐 하는 결정을 인간이 홀로 내리진 않을 것이다. 어떤 경우에는 AI가 AI를 감독하고 또 어떤 경우에는 보조적 도구가 AI를 감독할 것이다. 어쩌ㄷ 자동화되고, 방대한 데이터가 탐색되고, 물리적 세계와 사회적 세계가 조직되고 재편되는 상황에서는 누구든 먼저 움직이는 쪽이 유리하다. 그래서 그 위험성을 충분히 평가하지 않거나 아예 무시하고 섣불리 AGI를 배치할 수 있다.
따라서 AI 윤리가 반드시 확립돼야 한다. 제한, 협력, 추종을 선택할 때마다 무조건 극적인 일이 발생하진 않겠지만, 그런 결정이 누적돼서 생기는 결과는 대단히 극적일 것이다. 따라서 독단적 결정은 용납될 수 없다. 인류가 미래를 만들어나가려면 결정의 순간마다 방향을 제시해줄 공통된 원칙이 필요하다. 아무리 다자간 협력을 끌어내기가 어렵고 때로는 불가능하다고 해도, 공통된 윤리가 없이 행동한다면 불안정성만 커질 뿐이다.
AI를 설계하고 훈련하며 그와 협력하는 사람들은 지금까지 인간이 이루지 못했던 거대하고 복잡한 목적들을 달성할 것이다. 예를 들면 새로운 과학적 도약, 새로운 경제적 효율성, 새로운 형태의 안보, 새로운 차원의 사회적 감시와 통제를 창출한다. 반대로 AI가 발전하고 활용되는 과정에서 그들처럼 주체성을 발휘할 수 없는 이들은 자신이 설계하거나 선택하지 않았고 이해할 수도 없는 것에 의해, 곧 지금껏 많은 사회에서 인간이나 기관에게 허용되지 않았던 정도로 불투명한 것에 의해 감시당하고, 분석당하고, 조종당하는 느낌을 받을 수 있다. AI의 설계자와 배치자는 이런 우려를 해소해야 한다. 특히 비전문가에게 AI가 무슨 일을

AI 이후의 세계 중에서

교육과 평생학습
AI와 함께 성장하는 세대는 서로는 물론이고 자기 자신과도 앞선 세대와 다른 성격의 관계를 맺을 것이다. 지금 ‘디지털 네이티브’와 이전 세대의 간극이 존재하듯이 ‘AI 네이티브’와 이전 세대의 간극이 벌어질 전망이다. 미래 세대는 어릴 때부터 알렉사와 구글 홈보다 진화화여 베이비시터, 과외 교사, 상담사, 친구 등 다양한 역할을 수행하는 AI 도우미와 함께 자랄지 모른다. 이런 AI 도우미는 세상에 존재하는 거의 모든 언어와 학문을 가르치고 각 학생의 학습 능력과 방식에 맞춰 학업 성취도를 극대화하는 맞춤형 교육을 제공할 것이다. 그리고 아이가 심심할 때는 친구로, 부모가 외출 중일 때는 보호자로 그 곁을 지킬 것이다. AI 기반의 맞춤형 교육이 도입되면 인간의 평균적 능력이 향상될 가능성과 손상될 위험성이 공존한다.
인간과 AI의 경계에는 구멍이 숭숭 뚫려 있다. 일찍부터 디지털 도우미를 이용하는 아이들은 디지털 도우미가 없는 삶을 상상하기 어려울 것이다. 그리고 디지털 도우미는 주인과 함께 성장하며 주인의 취향과 편견을 내면화할 것이다. 개인에게 맞추어 편의나 성취감을 극대화하도록 설계된 디지털 도우미가 어떤 정보나 경험을 꼭 필요하다고 추천할 때, 인간 사용자는 왜 그것이 다른 것보다 좋은지 설명하지 못할 수 있다.
그렇게 세월이 흐르면 사람들이 인간보다 디지털 도우미를 더 좋아하게 될지 모른다. 타인은 자신의 취향을 척척 알아차리지 못하고 ‘의견 차’가 크기 때문이다(인간은 남의 성격과 욕구를 내면화하지 않으므로). 그렇다면 우리는 인간관계에 덜 의존하게 될지도 모른다. 그럴 때 유년기의 중요한 경험은 어떻게 형성될 것인가? 인간의 감정을 (모방할 수는 있겠으나) 느끼지 못하는 기계가 항상 동반자로서 공존한다면 아이의 세계관과 사회화 과정이 어떻게 달라지는가? 상상력에는 어떤 영향을 미치는가? 놀이의 성격은 어떻게 바뀌는가? 친구를 사귀고 집단에 동화되는 과정은 어떻게 변화할 것인가?

AI 이후의 세계 중에서

디지털 정보를 이용하면서 이미 젊은 세대의 교육과 문화 경험이 달라졌다는 견해도 존재한다. 이제 세계는 또다시 원대한 실험에 돌입했다. 이전에 인간 교사가 맡았던 다양한 역할을 수행하는 기계, 하지만 인간의 감수성·통찰력·감정은 없는 기계가 아이들과 공존하는 시대로 나아가기 시작했다. 훗날 아마도 이 실험의 참가자들은 자신의 경험이 이전에 예상하거나 수용하지 못했던 방향으로 변화하는지 스스로 물을 것이다.
부모들은 자녀가 일찍부터 그런 기계에 노출되면 어떤 영향을 받을지 확실치 않으므로 반발할지도 모른다. 한 세대 전 부모들이 텔레비전 시청 시간을 제한했고 요즘 부모들이 디지털 기기 사용 시간을 제한하듯, 미래 부모들은 AI 사용 시간을 제한할지 모른다. 하지만 자녀를 출세시키려는 부모, AI를 인간 부모나 교사로 대체할 의향이나 능력이 없는 부모, AI 친구를 원하는 자녀의 욕구를 채워주고 싶은 부모는 AI 파트너를 허용할 것이다. 그러면 아이들은 감수성이 풍부한 시기에 AI와 대화하며 세상을 배우고 세계관을 형성할 것이다.
우리 시대의 모순은 디지털화로 인간이 이용하는 정보가 계속 늘어나지만 진중한 사색에 필요한 공간은 점점 줄어든다는 사실이다. 끊임없이 범람하는 콘텐츠 때문에 사유의 비용이 증가함에 따라 사유의 빈도는 감소한다. 자극을 원하는 인간의 욕구에 맞춰 알고리즘이 우리에게 추천하는 콘텐츠나 경험은 대체로 극적이고, 충격적이고, 감정적이다. 이런 환경에서 진지하게 생각할 공간을 찾기란 쉬운 일이 아니다. 그뿐만 아니라 현재 지배적인 커뮤니케이션 방식도 진득한 사유에 그리 도움이 안 된다.

AI 이후의 세계 중에서