AI 기업들은 비관적인 전망을 퍼뜨리는 행위를 그만둬야 한다, NYT. June 17.

[鄭在煥]

https://www.nytimes.com/2026/06/17/opinion/ai-dangerous-openai-anthropic.html?login=google&auth=login-google  

Dear A.I. Companies: The Doom Trolling Needs to Stop

AI기업은 파멸적 공포 마케팅을 멈춰야 한다.

디지털 시대의 기술 혁명은 대개 낙관과 흥분을 동반한다. 2007년 스티브 잡스가 아이폰을 발표했을 때 우레와 같은 환호를 받았던 것이 대표적이다. 하지만 오늘날 주요 AI 기업들은 어둡고 기묘한 전략을 따르고 있다. 자신들의 모델이 초래할 폐해를 엄숙하게 경고하면서도, 정작 그에 대해 아무것도 할 수 없다는 무력한 태도를 보인다.

최근 앤트로픽(Anthropic)은 'AI가 스스로를 구축할 때'라는 제목의 섬뜩한 보고서를 발표하며, AI가 '자신의 후속 시스템을 자율적으로 설계하고 개발하는' 단계에 점점 더 가까워지고 있다고 주장했다. 이 회사는 이러한 순환적 자기 개선이 인류에 '엄청난 이점'을 가져다줄 것이라 기대하면서도, 동시에 인간이 시스템에 대한 '통제력을 상실'할 수 있다는 우려를 공개적으로 표명했다.

이 보고서에 대한 대중의 반응은 전 세계적인 AI 개발 중단을 요구하는 듯한 대목에 집중됐다. 그러나 자세히 들여다보면 앤트로픽이 실제로 제안하는 것은 개발 중단이 아니다. 보고서는 기술 발전 속도를 늦추는 것이 '가능하다면' 그렇게 해야 하지만, '가장 신중하지 않은' 경쟁사들이 전속력으로 개발을 진행하는 한 자신들 역시 속도를 늦출 수 없다는 점을 시사한다. 마치 고양이가 죽은 새를 문 앞에 두고 가는 것처럼, 앤트로픽은 자사 제품이 초래할 암울한 미래를 나열해 놓고는 어깨를 으쓱하며 경고를 현실로 만들기 위한 맹렬한 노력에 다시 몰두하고 있다.

앤스로픽만이 이런 허무주의에 빠진 것은 아니다. 오픈AI(OpenAI)의 최고경영자(CEO) 샘 알트먼 역시 종종 암울한 주장을 펼친다. 그는 자사의 대규모 언어 모델 개발 노력을 원자폭탄 개발에 비유했고, GPT-5 출시와 함께 영화 '스타워즈'의 행성 파괴 무기인 '데스 스타' 이미지를 소셜 미디어에 게시했다. 또한 AI 도구가 필연적으로 초래할 경제적 피해에 대한 유일한 해결책은 보편적 기본소득이나 공공자산펀드 같은 정부의 대규모 재정 지원뿐이라고 여러 차례 주장해 왔다.

이러한 전략을 '파멸을 부추기는 트롤링(Doom Trolling)'이라 부르고자 한다. 이는 현재 인공지능 시대의 가장 두드러지고 충격적인 특징 중 하나이며, 도덕적으로 용납될 수 없는 행태다.

AI 기업들이 종말론적 조롱을 일삼는 의도는 크게 두 가지로 해석할 수 있다. 첫째는 그들이 개발 중인 시스템이 실제로 경제 붕괴부터 인류 멸종에 이르기까지 심각한 파멸적 재앙을 초래할 가능성이 있다고 진심으로 믿는 경우다. 만약 이것이 사실이라면, 합리적인 윤리 체계 안에서 도출될 대응책은 단 하나뿐이다. 그러한 미래를 가속화하는 모든 제품 개발을 즉시 중단하고, 모든 자원을 동원해 다른 AI 기업들도 같은 조치를 취하도록 압력을 가하는 것이다. 도덕적 관점에서 그 외의 다른 반응은 변명이 될 수 없다.

두 번째 가능성은 이들이 실제로는 위험을 우려하지 않으면서 다른 의도로 통제 불가능한 재앙에 대한 공포를 조장하는 경우다. 기업공개(IPO)를 앞두고 자신들의 기술력을 과시하려는 목적일 수 있다. 혹은 과장된 보고서와 암울한 인터뷰를 통해 실리콘밸리에 만연한 비관주의 문화 속에서 최고 수준의 엔지니어 인재를 유치하려는 전략일 수도 있다. 벤처 투자자이자 AI 자문가인 데이비드 색스는 최근 앤트로픽이 신생 경쟁업체의 성장을 저해하려는 '규제 포획(Regulatory Capture)' 전략의 일환으로 공포 조장 전술을 쓰고 있다고 지적했다. 어떤 이유든 이 기업들이 극소수 주요 주주들의 재정적 이익을 위해 수백만 명의 불안감을 이용하고 있다는 뜻이며, 이러한 냉소주의는 그 자체로 끔찍한 행위다.

---

통제 불가능한 힘이라는 환상에서 벗어나야

우리는 AI에 관한 무력감과 스트레스를 유발하는 예측에 너무 익숙해진 나머지 그 기이함을 잊어버렸다. 포드 자동차가 인기 모델인 F-150 트럭이 곧 화재를 일으킬 수 있다는 보고서를 발표하면서도, 자동차 기술은 너무나 불가피하고 중요하므로 출시를 늦출 수 없다고 주장하는 시나리오를 상상해 보라. 상식적인 소비자 제품 회사라면 절대 그렇게 행동하지 않는다.

AI 기업들도 이제 상식적으로 행동해야 한다. 그러려면 AI를 마치 통제하기 어려운 피할 수 없는 절대적인 힘처럼 여기는 태도부터 버려야 한다. AI는 거대한 자연재해가 아니다. 기업들이 특정한 사업 계획에 따라 설계하고 판매하는 특정 도구들의 집합체일 뿐이다. 따라서 기업들은 자사 제품을 다른 소비자 제품처럼 설명해야 한다. 제품의 타깃 고객을 명확히 하고, 그 이점을 입증하며, 무엇보다 발생할 수 있는 모든 피해에 대해 전적인 책임을 져야 한다. AI가 첨단 기술이라는 화려한 왕관을 썼다고 해서 상식적인 안전 기준에서 예외가 될 수는 없다.

만약 AI 기업들이 피할 수 없는 디스토피아적 미래를 그저 담담하게 목격하는 척을 계속한다면, 이제는 대중이 나서야 할 때다. 소비자로서 우리는 이런 암울한 미래 예고에 휘말리지 않을 권리가 있다. 앤트로픽이 암울한 보고서를 발표하거나, 샘 알트먼이 오픈AI가 가져올 파괴적 변화를 상상하며 목소리를 떨 때, 우리는 현실적인 질문을 던져야 한다. "좋다, 그런데 토큰에 매달 1,000달러를 쓰는 게 나에게 어떤 이점을 가져다주는가?" 그들이 계속해서 암울한 전망을 부추긴다면, 이제는 공포를 조롱으로 맞받아쳐야 한다. 앤트로픽의 진지한 척하는 백서는 이미 풍자에 가깝다. 현재 AI를 둘러싼 분위기는 기술 선도 기업들의 말에 불안하게 굴복하도록 부추기고 있지만, 이러한 프레임은 빠르게 바뀔 수 있다.

(뉴욕타임스는 AI 시스템 관련 뉴스 콘텐츠에 대한 저작권 침해 혐의로 오픈AI와 파트너사인 마이크로소프트를 고소한 상태다. 오픈AI와 마이크로소프트는 이러한 주장을 부인했다.)

정부 역시 이 문제에서 중요한 역할을 해야 한다. 트럼프 대통령은 최근 AI 기업들이 자발적으로 모델 출시 전 위험성 평가를 제출하도록 하는 행정명령에 서명했다. 이러한 프로그램은 의무화되어야 하며, 정부는 자사 제품의 파괴력을 과장하는 기업에 단호하게 대응해야 한다. 이를 통해 AI 연구소들이 대중을 공포에 떨게 하면서도 아무런 제약 없이 기술을 개발하고 판매하는 독점적 시대를 종식시켜야 한다.

---

정부의 규제와 법적 책임의 필요성

현 행정부는 특유의 변덕스럽고 불가사의한 방식으로 이러한 규제 방향으로 나아가고 있는 듯하다. 지난 4월, 앤트로픽은 새로운 '클로드 미토스 프리뷰(Claude Mythos Preview)' LLM을 공개하지 않겠다고 발표했다. 소프트웨어 버그를 찾아 악용하는 능력이 경제와 안보에 심각한 파급 효과를 초래할 수 있다는 이유였다. 앤트로픽은 보안 취약점을 패치할 수 있도록 소수의 기관에만 소프트웨어를 제공하기로 결정했는데, 이는 큰 우려와 불안감을 불러일으켰지만 동시에 앤트로픽이 기술 분야에서 안전을 중시하는 선도 기업이라는 이미지를 강화하는 계기가 됐다.

그러나 지난주 해당 회사가 일반 사용자를 위해 '안전장치'가 적용된 버전과 일부 영역의 안전장치를 해제한 버전을 소규모 그룹에 제공하자, 트럼프 행정부는 국가 안보 문제를 이유로 업계가 놀랄 만한 반발을 보였다. 행정부는 해당 모델을 수출 통제 목록에 올렸고, 이로 인해 앤트로픽은 일시적으로 접근을 차단해야 했다. 이에 대한 냉소적인 해석은 이전에 미소스 모델에 대해 우려를 표명했던 것이 단순 홍보 전략이었다는 것이다. 지난주에 추가된 안전장치를 모델이 처음 발표된 4월에 추가하지 않은 이유가 명확하지 않기 때문이다. 따라서 행정부의 조치는 부분적으로 앤트로픽에 대한 부당한 처사로 받아들여지고 있기도 하다.

첨단 AI 연구소들은 흔히 중국의 위협을 예로 들며 규제 압력 없이 최대한 빠르게 제품을 개발하는 것을 정당화하곤 한다. 그러나 지정학적 위험을 관리하는 것은 실리콘밸리가 아니라 정부의 몫이다. 1990년대 미국 생명공학 업계가 유전자 공학 기술의 부정적 잠재력을 우려했을 때, 그들은 중국보다 먼저 인간 복제를 시도하는 방식을 택하지 않았다. 오히려 의회와 관련 국제기구에 로비를 벌여 이러한 혁신의 가장 악랄한 가능성을 제한하려 노력했다. 다른 국가가 나쁜 짓을 할 가능성이 있다고 해서 우리에게 비슷한 일을 할 도덕적 권리가 생기는 것은 아니다.

법원 역시 AI 기업들이 자사 제품을 설명하는 방식을 바꾸도록 압박하는 원천이 될 수 있다. 10년 전, 소셜 미디어 거물들은 현재의 AI 리더들과 비슷한 상황에 처해 있었다. 그들은 자신들의 앱이 초래하는 명백한 부정적 영향에 대한 책임을 회피하려 했고, 소셜 미디어를 너무나 근본적인 기술로 간주해 규제할 수 없다고 주장했다. 즉, 소통과 민주주의의 자연스러운 진화를 나타내는 '디지털 광장'이라는 프레임을 씌운 것이다.

그러나 지난 3월, 획기적인 판결에서 배심원단은 메타와 구글이 소셜 미디어 플랫폼으로 인한 피해에 대해 수백만 달러의 손해배상 책임을 져야 한다다고 판결했다. 현재 수백 건의 유사 소송이 진행 중이며, 이는 중독성 있고 뇌를 왜곡하는 디자인으로 수년간 아무런 제재 없이 이익을 누려온 기업들에 심각한 위협이 되고 있다. AI 역시 비슷한 소송에 직면할 수 있다. 지난주 독일 법원이 LLM 운영업체가 모델이 생성하는 텍스트에 대해 책임을 져야 한다고 판결하면서 그 가능성을 시사하는 첫 번째 징후가 나타났다. 앤트로픽 같은 기업들이 자사 제품의 위험성을 강조하는 보고서를 발표하는 관행은, 향후 법적 소송에서 자사 유죄를 입증하는 부메랑으로 작용할 수 있다.

컴퓨터 과학자이자 디지털 윤리학자로서 나는 인공지능의 가능성에 대해 낙관적이면서도, 현재 기술 업계 리더들이 AI에 대해 지나치게 암울하고 공포스러운 어조로 이야기하는 방식에 당혹감을 느낀다. 지금은 희망찬 혁신의 시기가 될 수도 있었지만, 실리콘밸리의 이기적이고 도덕적으로 용납할 수 없는 비관론 조장 행태에 대중의 감정이 휘둘리고 있다. 이러한 소통 전략은 반드시 중단되어야 한다. 이 행태가 대중의 정신 건강에 미치는 악영향은 AI가 지금까지 가져온 이점보다 훨씬 크다.

물론 변화의 징후도 일부 나타나고 있다. 앤트로픽의 재귀적 자기 개선 보고서에 대한 반응인지는 알 수 없으나, 오픈AI는 최근 '모두에게 이익이 되도록 설계: 우리의 계획'이라는 제목의 보고서를 발표했다. 이 보고서는 "모든 것을 완전히 자동화하는 것이 우리가 원하는 미래는 아니다"라고 주장하며, 20세기 초 전기 조명의 등장처럼 사람들의 삶을 근본적으로 더 나아지게 하는 기술을 개발하는 것이 목표라고 밝혔다. 이는 주요 기술 기업들이 흔히 내놓는 지나치게 낙관적이고 과장된 마케팅 문구처럼 느껴지며, 감정을 자극하거나 의미 있는 인상을 남기지는 못했다. 하지만 오히려 다행스러운 일이다.