AI 앤솔로픽의 IPO 투자설명서, 자사 AI가 ‘인류의 존망 위험’을 초래할 가능성 경고

[お持て成し]

앤솔로픽의 IPO 투자설명서, 자사 AI가 ‘인류의 존망 위험’을 초래할 가능성 경고 / 9월 29일(화) / Forbes JAPAN

포토 에이전시 - stock.adobe.com （포브스 재팬 편집부）

앤솔로픽은 IPO(신규주식공개) 투자설명서에서 자사의 AI 모델이 "인류에 치명적이거나 존망을 좌우할 위험"을 초래할 가능성이 있다고 투자자들에게 경고했다. 여러 보도에 따르면, 상장 시 기업 가치는 2조 달러(약 314조 원)를 넘어설 가능성이 있다. 앤솔로픽은 주목받는 상장을 앞두고 AI 모델이 초래할 수 있는 안전상의 위험에 대한 우려를 계속 강조하고 있다. 

■ 투자설명서의 약 30%를 위험 요인 설명에 할당한다

투자설명서 내용을 처음 보도한 로이터에 따르면, 전체 261페이지 중 약 80페이지가 잠재적 위험 요인 설명에 할애되었다. 사업 설명은 48페이지였다. 

위험 요인에는, 앤솔로픽의 AI 모델이 스스로 가동을 유지하려는 '자기 보존적 행동'과, 중단시키려는 시도에 대한 저항이 포함된다. 정보를 조작하거나 협박과 유사한 행동을 할 가능성도 제기되었다. 앤솔로픽은 고도화된 모델 개발과 용도 확대로 인해 모델이 위해를 초래할 위험이 더욱 커질 가능성도 경고했다.

● 재무 측면에서는 고객 2곳에 매출 집중도 위험 요인으로

로이터 보도를 뒷받침한 영국 신문 파이낸셜 타임스는 앤솔로픽이 재무적 위험도 보여줬다고 보도했다. 2025년 매출의 4분의 1에 가까운 금액을 단 2개 고객사로부터 얻고 있었던 점도 위험 요인으로 지적되었다. 

● 앤솔로픽 전 연구원이 인류 멸종을 경고하고, 아모데이 CEO는 개발 속도를 늦출 것을 요구한다

투자설명서의 이례적인 안전 경고에 앞서, 앤솔로픽의 전 연구원은 2026년 9월 AI로 인해 2020년대 말까지 인류가 멸종할 우려가 있다고 경고했다. 앤솔로픽 최고경영자(CEO) 다리오 아모데이도 2026년 9월, 주요 AI 기업들이 협력해 개발 속도를 늦출 것을 촉구하는 논문을 발표했다. 

■ 앤솔로픽은 매출이 12배 성장했음에도 거대한 손실, 향후 지급 의무까지 안고 있다

투자설명서에 따르면, 앤솔로픽의 2025년 매출액은 전년 대비 12배인 46억 달러(약 7,222억 엔)로 성장했다. 영업 손실은 80억 달러(약 1조 2,560억 엔)를 넘어섰으며, 순손실은 420억 달러(약 6조 5,940억 엔)에 달했다.

앤솔로픽은 성장을 지원하기 위해 향후 몇 년간 추가로 5,180억 달러(약 81조 3,260억 엔)를 지출할 계획이다. 대상은 클라우드, 컴퓨팅, 인프라 관련 지급 의무이다. FT에 따르면, 앤솔로픽 투자자들은 상장 시 기업 가치가 2조 달러(약 314조 원)에 이를 가능성이 있다고 보고 있다. 

■ 앤솔로픽, 대규모 자금 조달 실시, 연간 매출액도 확대

앤솔로픽은 2026년 5월, 시리즈 H에서 650억 달러(약 10조 2,050억 엔)를 조달했다. 자금 조달 후 기업 평가액은 9,650억 달러(약 151조 5,050억 엔)에 달했다. 얼티메이터 캐피털, 드래곤니아, 그린오크스, 세쿼이아 캐피털이 시리즈 H를 주도했다. 

블룸버그는 2026년 8월, 앤솔로픽이 연간 매출액 650억 달러(약 10조 2,050억 엔) 초과 달성을 향해 순조롭게 진행되고 있다고 투자자들에게 설명했다고 보도했다. FT에 따르면, 앤솔로픽 투자자들은 연간 매출액이 2026년 말까지 1,000억~1,200억 달러(약 15조 7,000억~18조 8,400억 엔)로 증가할 가능성이 있다고 보고 있다. 연간 매출액이란, 짧은 기간의 매출을 기준으로 1년치를 추정한 수치이다. 

■ OpenAI가 안전성을 이유로 2026년 상장을 미루다

앤솔로픽이 2026년 중 상장을 예정하는 반면, 최대 경쟁사인 OpenAI는 2026년 상장을 보류할 전망이다. OpenAI 최고경영자(CEO) 샘 얼트먼은 2026년 9월 미국 경제지 포춘에 2026년 중에는 상장하지 않겠다고 밝혔다. 이유로 AI의 안전성에 대한 우려를 들었다. 

알트만은 고도화된 모델 개발을 ‘일시 중단’하고, 안전성과 정렬성을 더욱 향상시키는 판단이 필요할 가능성이 있다고 설명했다. 얼라인먼트란 AI를 인간의 의도와 가치관에 맞추는 노력을 말한다. 모델 개발을 일시 중단하는 등의 조치는 주주 이익에 부합하지 않을 수 있어, 2026년은 상장하기에 ‘현명하다고 보기 어려운’ 시기라고 말했다. 

OpenAI는 2026년 9월 28일, 최신 AI 모델 ‘GPT-6.1 Astra’의 공개 중단을 발표했다. 사내 시험에서 안전상의 우려가 발생한 것을 계기로 내린 판단이었다. 

Siladitya Ray

アンソロピックのIPO目論見書、自社AIが「人類への存亡リスク」をもたらす可能性を警告

アンソロピックのIPO目論見書、自社AIが「人類への存亡リスク」をもたらす可能性を警告（Forbes

アンソロピックのIPO目論見書、自社AIが「人類への存亡リスク」をもたらす可能性を警告 / 9/29(火) 15:30配信 / Forbes JAPAN 

Photo Agency - stock.adobe.com（フォーブス ジャパン編集部）

アンソロピックはIPO（新規株式公開）目論見書で、同社のAIモデルが「人類に壊滅的、または存亡に関わるリスク」をもたらす可能性があると投資家に警告した。複数の報道によると、上場時の企業評価額は2兆ドル（約314兆円）を超える可能性がある。アンソロピックは注目を集める上場を控え、AIモデルがもたらし得る安全上のリスクへの懸念を引き続き強調している。

■目論見書の約3割をリスク要因の説明に充てる

目論見書の内容を最初に報じたロイターによると、全261ページのうち約80ページが潜在的なリスク要因の説明に充てられた。事業説明は48ページだった。

リスク要因には、アンソロピックのAIモデルが自らの稼働を維持しようとする「自己保存的な行動」や、停止させようとする試みへの抵抗が含まれる。情報を操作したり、脅迫に似た行動を取ったりする可能性も挙げられた。アンソロピックは、高度なモデルの開発や用途の拡大によって、モデルが危害をもたらすリスクがさらに高まる可能性も警告した。

●財務面では顧客2社への売上集中もリスクに

ロイターの報道を裏付けた英紙フィナンシャル・タイムズは、アンソロピックが財務面のリスクも示したと報じた。2025年の売上高の4分の1近くを、わずか2社の顧客から得ていたこともリスク要因として挙げられた。

●アンソロピック元研究者は人類絶滅を警告、アモデイCEOは開発減速を求める

目論見書の異例の安全警告に先立ち、アンソロピックの元研究者は2026年9月、AIによって2020年代末までに人類が絶滅する恐れがあると警告した。アンソロピック最高経営責任者（CEO）のダリオ・アモデイも2026年9月、主要AI企業が協調して開発のペースを落とすよう求める論考を発表した。

■アンソロピックは売上高12倍でも巨額損失、将来の支払い義務も抱える

目論見書によると、アンソロピックの2025年の売上高は前年比12倍の46億ドル（約7222億円）に伸びた。営業損失は80億ドル（約1兆2560億円）を超え、純損失は420億ドル（約6兆5940億円）に達した。

アンソロピックは成長を支えるため、今後数年間にさらに5180億ドル（約81兆3260億円）を支出する計画だ。対象はクラウド、コンピューティング、インフラ関連の支払い義務である。FTによると、アンソロピックの投資家は、上場時の企業評価額が2兆ドル（約314兆円）に達する可能性があるとみている。

■アンソロピックは大型資金調達を実施、年換算売上高も拡大

アンソロピックは2026年5月、シリーズHで650億ドル（約10兆2050億円）を調達した。資金調達後の企業評価額は9650億ドル（約151兆5050億円）となった。アルティメーター・キャピタル、ドラゴニア、グリーンオークス、セコイア・キャピタルがシリーズHを主導した。

ブルームバーグは2026年8月、アンソロピックが年換算売上高650億ドル（約10兆2050億円）超の達成に向けて順調に進んでいると投資家に説明したと報じた。FTによると、アンソロピックの投資家は、年換算売上高が2026年末までに1000億～1200億ドル（約15兆7000億～18兆8400億円）へ増える可能性があるとみている。年換算売上高とは、短期間の売上高を基に1年分を推計した数値である。

■OpenAIは安全性を理由に2026年の上場を見送る

アンソロピックが2026年中の上場を予定するのに対し、最大の競合であるOpenAIは2026年の上場を見送る見通しだ。OpenAI最高経営責任者（CEO）のサム・アルトマンは2026年9月、米経済誌フォーチュンに対し、2026年中は上場しないと語った。理由としてAIの安全性への懸念を挙げた。

アルトマンは、高度なモデルの開発を「一時停止」し、安全性とアラインメントをさらに進展させる判断が必要になる可能性があると説明した。アラインメントとは、AIを人間の意図や価値観に沿わせる取り組みを指す。モデル開発の一時停止などは株主の利益に沿わない判断になり得るため、2026年は上場するには「賢明とはいえない」時期だと述べた。

OpenAIは2026年9月28日、最新AIモデル「GPT-6.1 Astra」の公開中止を発表した。社内試験で安全上の懸念が生じたことを受けた判断だった。

Siladitya Ray