https://www.wsj.com/opinion/anthropic-ipo-investors-regulation-dario-amodei-c7339185?mod=panda_wsj_author_alert
The company says it could save humanity or destroy it. Investors, place your bets.By The Editorial Board
앤스로픽은 월요일에 오랫동안 기다려온 기업공개(IPO)를 위한 투자설명서를 공개했는데, 거기에 나열된 모든 재무, 규제 및 법적 위험을 읽어보면 투자자들을 겁주려는 의도가 아닌가 하는 생각이 듭니다.
앤트로픽처럼 유망하면서도 위험한 기술을 가진 기업의 기업공개(IPO)는 전례가 없었습니다. 300페이지가 넘는 투자설명서 곳곳에는 이러한 역설이 드러나 있는데, 앤트로픽은 자사의 기술이 인류에게 이익을 주고 인류가 직면한 가장 큰 문제들을 해결할 수 있다고 거듭 강조하면서도, 인공지능이 "인류에게 재앙적이거나 실존적인 위협"을 가할 수 있다고 경고합니다.
이는 CEO 다리오 아모데이 가 공개적으로 보여온 모순된 발언 이었는데 , 이제 그가 주식을 매각하고 있으니 어쩌면 그는 생각을 정리할 수 있을지도 모릅니다. 한 친구의 농담처럼, 클로드에게 물어보는 게 좋을지도 모르겠네요.
이러한 사소하지만 중요한 문제 외에도 다른 위험 요소들이 존재합니다. 가장 큰 위험은 앤트로픽이 인공지능 분야의 최첨단 기술을 유지하기 위해 치솟는 비용을 충당할 만큼의 수익을 창출할 수 있을지 여부입니다. 앤트로픽은 올해 상반기에 163억 달러의 매출을 기록했는데, 이는 작년 같은 기간의 12억 달러에서 크게 증가한 수치입니다.
앤트로픽은 또한 자사 고객에 포춘 500대 기업의 절반 이상, 10대 인터넷 기업 중 9대, 10대 제약 회사 중 9대, 10대 은행 중 9대, 10대 반도체 회사 중 8대, 10대 의료 회사 중 8대가 포함된다고 밝혔습니다.
이 모든 것이 인상적이지만, "고객 기반의 상당 부분이 스타트업 및 기술 중심 기업으로 구성되어 있으며, 이들은 거시 경제 상황 악화에 더 민감할 수 있다"는 점을 명심해야 합니다. 심각한 경기 침체를 경계해야 합니다.
투자설명서에서는 구글 과 오픈AI를 해당 분야의 주요 경쟁업체로 지목하며, 오픈웨이트 및 오픈소스 AI 모델이 "특정 사용 사례에서 시장 점유율을 확보하여 당사 제품에 가격 압력을 가하거나 일부 고객이 해당 사용 사례에 대해 오픈소스 대안을 채택하도록 유도할 수 있다"고 언급하고 있습니다.
대형 은행과 인프라 제공업체는 잠재적인 보안 위험 때문에 중국산 모델 사용을 꺼릴 수 있습니다. 하지만 엔비디아 와 메타는 비용 절감 효과가 있는 자체적인 오픈웨이트 모델을 적극적으로 추진하고 있어 매력적일 수 있습니다. 오픈웨이트 모델을 사용하면 기업은 독점 데이터를 공유할 필요가 없습니다.
최근 보고서에 따르면 미국에서 오픈 소스 모델이 인공지능(AI) 사용량의 거의 60%를 차지하며, 이는 1년 전 10%에서 크게 증가한 수치입니다. 오픈 소스 모델이 확산될 경우, 앤트로픽은 컴퓨팅 인프라 구축 비용을 감당하는 데 어려움을 겪을 수 있습니다. 앤트로픽은 향후 최소 4,170억 달러에 달하는 미지급금을 예상하고 있으며, 이 금액은 주로 컴퓨팅 및 인프라 관련 비용입니다.
다음으로 규제 위험이 있습니다. 투자설명서에는 "인공지능이 일자리를 대체하거나 없앨 수 있고, 오용되거나 해를 끼칠 수 있으며, 인류에게 재앙적이거나 실존적인 위험을 초래할 수 있다는 등 인공지능의 잠재적인 부정적 사회 영향에 대한 반복적인 논의"가 회사의 평판을 손상시키고 잠재 고객을 위축시킬 수 있다고 명시되어 있습니다.
아모데이 씨가 이러한 내러티브를 적극적으로 퍼뜨리는 인물이라는 언급은 전혀 없습니다. 정치적 위험 또한 결코 가볍지 않습니다. 지난 6월, 상무부는 앤트로픽의 Fable 5와 Mythos 5 모델에 대해 전 세계 수출 제한 조치를 부과했고, 이는 사실상 회사가 해당 제품들을 중단하도록 만들었습니다.
정부의 제한 조치는 이후 해제되었지만, "유사한 수출 통제가 다시 발생하거나, 더 오래 지속되거나, 추가 모델이나 기능으로 확대될 수 있다"고 회사는 경고합니다. 이 회사는 2028년 민주당이 백악관을 차지할 경우 워싱턴이 인공지능에 대한 정치적 통제를 확대할 위험이 커질 것이라는 점은 언급하지 않았습니다.
현대 사회를 과소평가하듯 앤트로픽은 "우리는 개인정보 보호 및 데이터 보호와 관련된 복잡하고 끊임없이 변화하는 법률, 규정 및 기타 법적 의무의 적용을 받는다"고 말합니다. 반면 중국의 AI 연구소들은 이러한 장벽에 거의 직면하지 않습니다.
상장 기업이 되면 앤트로픽의 법적 위험은 증가할 것입니다. 아모데이 회장은 이제 자신이 하는 모든 말이 규제 당국과 소송을 제기하는 변호사들에 의해 불리하게 이용될 수 있다는 사실을 잘 알고 있을 것입니다. 앤트로픽의 직원이 손해를 입히는 경우, 불법행위 및 증권 관련 변호사들이 즉시 소송을 제기할 것입니다.
금요일, 엘비스 프레슬리 의 음악 저작권 소유자들은 앤트로픽사가 허가 없이 200곡이 넘는 그의 노래를 모델 학습에 사용했다며 소송을 제기했습니다. 이들은 4,100만 달러 이상의 손해배상을 요구하고 있습니다. 투자설명서에는 "소송의 타당성 여부와 관계없이 이러한 소송에 대한 방어 비용은 상당하다"고 명시되어 있습니다. 네, 그렇습니다.
이처럼 엄청난 위험을 감수하면서 왜 앤트로픽은 지금 상장하려는 걸까요? 저희 생각에는 AI 붐을 이용해 주식 옵션을 가진 직원들과 초기 투자자들이 회사의 경쟁력이 약화되거나 더 큰 위험에 직면하기 전에 투자금을 회수할 수 있도록 하려는 것 같습니다.
잠재적인 문제점을 암시하는, 잘 드러나지 않는 단서 중 하나는 앤트로픽이 강조하는 "공익 목적"입니다. 여기에는 "인류가 직면한 가장 어려운 문제들을 시장 원리에만 맡겨 해결하지 않도록 하겠다"는 내용이 포함됩니다. 이는 앤트로픽이 인공지능 통제에 있어 정부의 더 큰 역할을 계속해서 주장할 것임을 사실상 인정하는 것입니다. 투자자와 납세자 여러분, 이 점에 유의하시기 바랍니다.