과학기술의 도전과 사회의 응전
- 노성열 문화일보 부장
과학과 기술의 진보가 인류 사회에서 이전 시대에 없던 새로운 도전을 잉태시키고, 그에 응해 정치·경제·사회 각 분야에 걸쳐 모든 인간 사고(思考)와 활동의 큰 틀, 다시 말해 패러다임이 이동하는 동학(動學, dynamics)은 역사의 자연스러운 발전 과정으로 해석된다. 근대와 현대에 동력(에너지) 혁명, 핵무기 통제 같은 도전과 응전을 거쳐 21세기 들어서는 AI, 유전자 편집 기술 등의 새 이슈가 급부상했다. 이른바 디지털과 바이오 시대의 대두이다. 치명적인 신과학기술을 누가 어떤 시스템으로 어떻게 통제하느냐 하는 거버넌스 이슈에서 국가 단위를 초월한 국제적 합의의 필요성이 제기되고 있다.
AI가 인간의 개입 없이 스스로 개선하고 창조하는 힘까지 갖추면서 ‘AI의 FATE’-공정성(Fairness), 책임성(Accountability), 투명성(Transparency), 윤리의식(Ethics)-가 기본 규범으로 굳어지는 추세다. 합성생물학을 포함한 유전자 변형 기술 역시 생물다양성협약 당사국 총회에서 다양한 규준이 형성되는 중이다.
정신노동을 대체하는 디지털 지능, AI의 새로운 도전
현대의 딥러닝 기반 AI는 선천적 한계와 후천적 부작용을 내포하고 있다. 선천적 한계는 AI 편향과 양극화 등 ‘통계적 앵무새’ 증후군에서 비롯된다. 수학적 처리 기법의 당연한 귀결이다. 과거의 빅데이터를 방대한 컴퓨터 계산력으로 통계 처리하는 딥러닝 AI는 이런 선천적 한계로 ‘부익부 빈익빈’의 AI 편향을 타고 태어난다. 이를 바로잡지 못하면 AI 실업과 AI 양극화로 이어져 사회의 안정성을 저해하게 된다.
수많은 숫자 속에 잠재된 반복의 법칙을 찾아내는 AI 알고리즘은 가장 잦은반복이 거듭되는 다수파 패턴으로 기울게 돼 있다. 남성과 여성, 백인과 흑인의 대조군 데이터를 넣으면 어김없이 여성과 흑인이란 소수자에게 불리한 결론이 나온다. 통계적 기울기가 편견이 되고, 편견은 부익부 빈익빈의 양극화 효과를 부른다. 있는 자를 더 있게, 없는 자를 더 없게 만듦으로써 사회의 중간층을 지우고 극과 극으로 갈라진 불안정한 상태로 치닫게 한다. 소프트웨어 알고리즘에 내재한 원천적 한계이다. AI 양극화가 경제적으로 고착되면 AI 실업으로 진화한다. AI를 잘 알고 잘 활용하는 ‘WithAI’ 인력과 모르고 피하는 ‘Without AI’ 인력간에는 임금과 취업 기회의 격차가 커진다. AI양극화의 문화적 현상은 디지털 문해력(literacy)으로 나타난다. AI 문해력을 갖춘 집단과 미처 따라잡지 못한 집단 간에 소통과 권력의 틈이 더 벌어진다.
두 번째는 사회 제도와 접목하면서 드러나는 후천적 부작용이다. 특히 생성형 AI 등장 이후 AI 저작권과 프라이버시 침해, 딥페이크 등 사회 곳곳에서 이해의 충돌과 범죄 발생의 위험성도 높아졌다. 아나운서, 배우, 작가의 목소리, 연기, 글을 흉내 내는 할리우드 AI의 사례는 저작권과 개인정보 침해 문제를 단적으로 보여준다. 사람의 목소리, 얼굴 생김새 같은 신체 외형뿐 아니라 배우의 개성적인 표정 연기나 작가의 문체를 스스럼없이 베끼고 대가도 주지 않는다. 빅테크 기업은 전통적 「저작권법」상 표절이나 모방과 달리, 그저 특징(feature)의 추출에 불과하다고 발뺌한다. 지적 재산권의 새로운 법리가 요구된다. 대규모 데이터셋의 수집과 정제, AI 모델 훈련 과정에서 유출되는 개인정보 역시 같은 부작용을 안고 있다. 누가 얼마나 책임을 져야 할지 '룰 메이킹'이 필요하다.
재산권이나 인격적 권리를 침해하는 지식재산권 이슈는 그래도 개인과 기업의 사익 울타리 안에 머문다. 딥페이크 같은 가짜 뉴스, 거짓 정보의 대량 살포는 민주주의 사회의 근간인 표현의 자유, 언론의 자유를 뒤흔든다. 현재 트위터, 인스타그램, 페이스북 등 SNS 미디어에서 뉴스를 가장하거나 현장 증언을 표방한 페이크들이 이념적·상업적 목적으로 넘쳐난다. 러시아는 우크라이나 전쟁에서 선전전(戰)의 도구로 가짜 전황 뉴스를 확산시키는 트롤 부대를 공식 운용했다. 가상 세계에서만이 아니다. 다수의 선각자들이 우려했던 AI 살상 무기도 가시화되고 있다. 아직 터미네이터 같은 킬러 로봇은 등장하지 않았지만 단지 시간 문제로 보인다. 이스라엘과 하마스 전쟁에서도 무인 드론의 선제 공습이 1차 공격 전술로 굳어졌다. 전력과 물 등 과도한 에너지를 소모하거나 환경을 파괴하는 반(反)녹색성장·기후변화 성향도 개선과제다.
유전자기술·합성생물학, 인간 존엄성에 도전
유전자를 편집하는 분자생물학, 미생물 공장의 생분해 바이오 소재로 석유화학 제품을 대체하려는 합성생물학은 최전선 과학기술이다. 그러나 생명의 분자·원자 단위 조작을 통해 기존 생물을 변형, 창조하는 과정에서 새로운 이슈가 만들어지고 있다. 선구적인 예는 줄기세포 연구의 난자·정자 등 인체 유래물 논쟁이다. 인체 유래물은 의학적 목적으로 연구한다 해도 충분한 테스트를 거쳐 안전성을 검증받아야 한다. 더욱이 새롭게 부각되고 있는 합성생물학은 의학·농식품·에너지·화학 등 매우 적용 범위가 넓은 만큼 일관된 윤리 기준을 적용하기 어렵다는 난점도 존재한다. 크게 보면 일단 분야별로 윤리 지침을 세분화해 각개 격파한 후 이를 종합하는 방법이 제안되고 있다. 그러나 연구 윤리가 개발 시간을 지체시킨다는 반론 역시 크다. 진흥과 규제 사이에서 황금비율을 찾아야 한다.
또 합성생물학이 산업화하는 과정에서 환경오염을 심화하고 인류 사회에 위해를 가할 수 있다는 우려도 제기된다. 지구상에 없던 새로운 합성생명체가 생태계에 노출됐을 경우 과연 어떠한 부작용이 생길지 예측하기 힘들다. ‘생물다양성협약’과 ‘카르타헤나 의정서’는 유엔환경 계획(UNDP) 주관하에 정부 간 협상회의를 통해 생긴 규율이다. 2000년 채택된 ‘바이오 안전성 의정서’는 유전자변형생물체(LMO)의 운반·저장·이용에 대한 173개국의 비준을 끌어냈다.이처럼 정부·민간·국제 레벨의 복합적인 감시 체계가 요구되면서 서서히 관련 기준과 표준이 형성되는 중이다. 생물 무기나 테러, 대규모 감염병을 예방하는 바이오 안보 이슈부터 인간에 대한 적용을 적정 제어하는 바이오 윤리까지 다층적인 제도 마련이 시급한 실정이다.
도전과 응전으로 쓰는 새 시대
크리스토퍼 놀란 감독의 SF 영화 <인셉션>에서 사람 머릿속에 심은 작은 생각의 씨앗이 움트고 자라 그 사람의 가치관과 세계관을 송두리째 바꾼다는 묘사가 나온다. 과학기술의 영향력에 대한 탁월한 메타포가 아닐까. 우리가 코페르니쿠스적 전환이라 부르는 우주관의 변화는 신으로부터 인간에게로 관점을 옮겨오는 르네상스와 근대 개막의 도화선이 되었다. 콜럼버스의 신대륙 발견에 이르러서야 등장한 원형 지구관 역시 대항해 시대에 동서를 잇는 공간 단축의 새 시대를 열었다.
AI의 선천적 한계와 후천적 부작용이라는 새로운 도전에 인류 사회는 데이터 수집과 학습, 알고리즘 시행 단계에서 오류를 줄여나가는 신뢰가능 AI의 투명성, 공정성, 설명 가능성, 회복 가능성 등 윤리적·사회적 책임 보장 방안을 모색 중이다.
이를 위해 첫째, AI로 생긴 부작용은 AI로 막는 해결책이 제시됐다. 챗GPT 등 생성형 AI로 만든 콘텐츠를 가려내는 AI 솔루션이 등장하고, 아예 콘텐츠에 워터마크를 넣어 구별 짓는 제도적 통제도 시도되고 있다. 정치 분야에서는 선거의 AI 여론 조작을 AI로 막는 기술이 비영리단체 ‘글로벌팩트체크’의 가짜 뉴스 감시에서 현실화됐다. AI 로봇 ‘오토메이티드 팩트체킹’은 러시아가 만든 조직적인가짜뉴스 살포 트롤 공장을 검출해낸다. 또, AI실업은 AI 창업으로 극복할 수 있다. 창의적인 스타트업은 사라진 직업 대신 새 일자리를 만들어낸다.
둘째, 인간의 제도화와 AI의 기계적 감시 능력을 결합한 하이브리드형 감시체계가 등장했다. 개별 국가와 국제기구들이 차례로 성문화하고 있는 디지털·바이오 통제 규범을 통해 패권 경쟁, 데이터 프라이버시, 고용 양극화, 디지털 디바이드, 지속가능개발, 과학윤리, 환경파괴와 기후변화 등의 새로운 도전에 인류의 오래된 지혜로 맞서야 한다. 여기에 착한 AI 조수를 조력자로 더해 21세기형 혼합 통제 거버넌스를 만들 필요가 있다.