「GPUはすぐに陳腐化する」というAIバブルの懸念は間違っている(海外)/ 11/30(日) / BUSINESS INSIDER JAPAN
AIインフラ企業のCrusoeは、テキサス州で大規模なデータセンター複合施設Stargateを建設している。
GPUの急速な価値減少について、あまり心配する必要はないようだ。AIデータセンターでは、古いGPUでも6年以上にわたって使用され、収益性を維持している。クラウド事業者は、多様なAIの作業に古いGPUを活用し、その使用可能期間を延ばしている。
ここ数週間、AI(人工知能)バブルに関する悲観的な警告が市場を揺るがしている。とはいえ、的外れな懸念もある。
【全画像をみる】「GPUはすぐに陳腐化する」というAIバブルの懸念は間違っている
2025年3月、筆者はコアウィーブ(CoreWeave)などのAI企業における減価償却リスクについて報じた。8月には、エンロン(Enron)を空売りしたことで知られるジム・チャノス(Jim Chanos)も同様の懸念を示した。
この懸念は、AIモデルの学習と実行に欠かせないGPUに集中している。新しいGPUが登場すると、旧型GPUは陳腐化や消耗により価値が低下する。クラウド企業は、このGPUの現実的な使用可能期間を想定して減価償却を行う必要があるが、減価償却期間が短くなるほど利益への圧迫は大きくなる。
投資家の間では、GPUの使用可能期間が1~2年しかないのではないかとの懸念が高まっている一方、クラウド事業者はそれを5~6年と想定して減価償却を行っている。このような会計上の不整合は、いずれAI業界が厳しい業績悪化に直面する下地となりかねない。
この見方は、いまやウォール街ではほぼコンセンサスとなっており、現在AIが巨大なバブルであるとする主張の根拠のひとつにもなっている。しかし、この見方は誤っている。エヌビディア(Nvidia)が18カ月ごと、あるいはそれより短い周期で新しいGPUアーキテクチャを投入していても、GPUは一部の投資家が懸念するほど速いペースで陳腐化しているわけではない。
「GPUはおおむね6年間にわたり収益を生み出せる」と、調査・資産運用会社、バーンスタイン(Bernstein)の半導体アナリスト、ステイシー・ラスゴン(Stacy Rasgon)が11月17日に公開したレポートに記している。
「主要ハイパースケーラー(クラウドサービスを大規模に構築・運用する企業)の減価償却は妥当だ」
健全な利益率
AIデータセンターでGPUを運用するコストは「非常に低い」。そのため、古いGPUを長期間稼働させた場合の「限界利益率」は非常に高くなると、ラスゴンと同僚のアナリストが指摘している(限界利益率とは、変動費を差し引いた後に残る収益を示す指標で、製品の収益性評価や事業判断に広く用いられる)。
さらにラスゴンらは、エヌビディアが2020年に発売を開始したA100についてこう述べている。
「GPUは世代が新しくなるたびに価格性能比が大きく改善されているが、発売から5年が経過したA100でも十分な利益率を維持している。つまり、GPUの減価償却期間を5~6年とするのは妥当であることが示唆されている」
7年から8年、使用可能
これらのGPUが長期間にわたり高い価値を保つ理由を知るには、実際にAIデータセンターで大規模にGPUを運用している現場担当者に話を聞く方が早い。
AIクラウド事業者のラムダ(Lambda)の戦略的事業開発シニアディレクター、マット・ロウ(Matt Rowe)は、GPUの実効耐用年数が7~8年に及ぶこともあるとバーンスタインに語っている。
多くの企業は依然としてGPUの減価償却期間を6年としているが、保証延長や再配置戦略により、実際の使用可能期間はさらに延びるという。
減価償却期間を懸念する人は、保証契約を見落としがちだとロウは指摘している。保証は通常5年間有効で、期間内にGPUが故障した場合は新しいものに交換されるため、GPU全体の耐用年数が延びる。
また、アマゾン・ウェブ・サービス(Amazon Web Services)が提供してきたK80、P100、V100といった初期世代のGPUは、いずれも6年を大きく超えて稼働していたという。
さらに、2022年に登場したエヌビディアのH100も、ラムダのデータセンターで順調に稼働している。利用率は85%を超え、オンデマンドのパブリッククラウド価格は12カ月以上にわたり引き下げられていないと、ロウは述べた。
「我々は皆、GPUは7~8年使用可能だと考えている」
Crusoeでの使用状況
11月中旬、筆者はクルーソー(Crusoe)のプロダクトマネジメント担当上級バイスプレジデント、エルワン・メナール(Erwan Menard)と話す機会を得た。同社はテキサス州で大規模なデータセンター複合施設Stargateを建設している。メナールはクルーソー入社前、グーグル(Google)のVertex AIクラウドサービスの構築に携わっており、現場に精通している。
クルーソーのデータセンターでは、GPUはまず最先端のAIモデルの学習に使用され、その後、負荷の低い推論用途に使用されるというライフサイクルをたどるとメナールは説明する。
最先端のAIモデルを新たに構築する場合には、エヌビディアの最新かつ高性能なGPUが用いられる。推論用途にも高性能GPUは求められるが、必ずしも最新型である必要はない。
さらに、古いGPUでも十分に対応可能なAIの作業が数千種類存在するという。つまり、クルーソーのGPU群には数年経過したものも多く含まれているが、現在も活発に使用され、利益を生んでいる。
「さまざまな問題を解く多種多様なモデルが存在するため、GPUは長期間にわたり幅広く使用できる。単にあるジョブから別のジョブへ移行させながら使えばよいだけだ」とメナールは言う。
「この考え方は、業界で広く受け入れられている」
無料版と有料版
AIクラウド事業者は、ユーザーの期待値や予算を踏まえ、どのGPUを使用するか判断している。メナールは、無料版と有料版を提供するAIサービスを例に挙げ、「フリーミアム版では、性能は低いものの、より安価で古いハードウェア上で推論できるAIモデルを採用する、という判断もあり得る」と説明した。それでもユーザーに初期体験を提供するには十分な性能がある。
初期的な利用体験を経た一部のユーザーは、有料版に移行する可能性がある。有料版では、より優れたユーザー体験を提供するために、AIクラウド事業者は新しいGPUを必要とする高性能なAIモデルを用いることになる。
「こうした機会は非常に多く存在する」とメナールは語る。
「すべての問題が、最新・最高のGPUで巨大モデルを動かさねばならないわけではない」
Alistair Barr
https://news.yahoo.co.jp/articles/af444f9cd2697d1fd616aa916538091efbd9339a?page=1
'GPU는 곧 진부해진다'는 AI 버블 우려는 잘못됐다(해외) / 11/30(일) / BUSINESS INSIDER JAPAN
AI 인프라 기업 크루스는 텍사스주에서 대규모 데이터센터 복합시설 스타게이트를 짓고 있다.
GPU의 급속한 가치 감소에 대해 너무 걱정할 필요는 없어 보인다. AI 데이터센터에서는 오래된 GPU에서도 6년 이상 사용되며 수익성을 유지하고 있다. 클라우드 사업자들은 다양한 AI 작업에 오래된 GPU를 활용해 사용 가능 기간을 늘리고 있다.
최근 몇 주간 AI(인공지능) 버블에 관한 비관적인 경고가 시장을 뒤흔들고 있다. 그렇다고 해도, 빗나간 염려도 있다.
2025년 3월, 필자는 코어위브(CoreWeave) 등의 AI 기업에서의 감가상각 리스크에 대해 보도했다. 8월엔 엔론(Enron)을 공매도한 것으로 알려진 짐 차노스(Jim Chanos)도 같은 우려를 나타냈다.
이 우려는 AI 모델 학습과 실행에 필수적인 GPU에 집중되고 있다. 새로운 GPU가 등장하면 구형 GPU는 진부화나 소모로 가치가 떨어진다. 클라우드 기업은 이 GPU의 현실적인 사용가능 기간을 가정해 감가상각을 할 필요가 있지만 감가상각 기간이 짧아질수록 이익에 대한 압박은 커진다.
투자자 사이에서는 GPU의 사용 가능 기간이 1~2년밖에 되지 않는 것이 아닌가 하는 우려가 높아지고 있는 한편, 클라우드 사업자는 이를 5~6년으로 상정해 감가상각을 실시하고 있다. 이 같은 회계 부정합은 머지않아 AI 업계가 혹독한 실적 악화에 직면하는 밑거름이 될 수 있다.
이러한 견해는, 지금 월가에서는 거의 컨센서스가 되고 있어 현재 AI가 거대한 버블이라고 하는 주장의 근거의 하나가 되기도 한다. 그러나 이런 시각은 잘못된 것이다. 엔비디아(Nvidia)가 18개월마다 혹은 그보다 짧은 주기로 새로운 GPU 아키텍처를 투입하더라도 GPU는 일부 투자자가 우려할 정도로 빠른 속도로 진부해지고 있는 것은 아니다.
「GPU는 대략 6년간에 걸쳐 수익을 낳을 수 있다」라고, 조사·자산 운용 회사, 번스타인(Bernstein)의 반도체 애널리스트, 스테이시·라스곤(Stacy Rasgon)이 11월 17일에 공개한 리포트에 적고 있다.
「주요 하이퍼 스케일러(클라우드 서비스를 대규모로 구축·운용하는 기업)의 감가상각은 타당하다」
◇ 건전한 이익률
AI 데이터센터에서 GPU를 운용하는 비용은 '매우 낮다'. 그 때문에 오래된 GPU를 장기간 가동시켰을 경우의 '한계이익률'은 매우 높아진다고 라스곤과 동료 애널리스트가 지적하고 있다(한계이익률이란 변동비를 뺀 후 남는 수익을 나타내는 지표로 제품의 수익성 평가나 사업 판단에 널리 이용된다).
게다가 라수곤 등은 엔비디아가 2020년 출시한 A100에 대해 이렇게 말하고 있다.
GPU는 세대가 새로워질 때마다 가격 대비 성능이 크게 개선되고 있지만 출시 5년이 지난 A100에서도 충분한 이익률을 유지하고 있다. 즉, GPU의 감가상각 기간을 5~6년으로 하는 것은 타당하다는 것이 시사되고 있다」
◇ 7년에서 8년 사용가능
이들 GPU가 장기간 높은 가치를 유지하는 이유를 알려면 실제 AI 데이터센터에서 대규모로 GPU를 운용하고 있는 현장 담당자에게 이야기를 듣는 것이 빠르다.
AI 클라우드 사업자 람다(Lambda)의 전략적 사업개발 시니어 디렉터 맷 로우(Matt Rowe)는 GPU의 실효내용연수가 7~8년에 이르기도 한다고 번스타인에게 말했다.
많은 기업들은 여전히 GPU의 감가상각 기간을 6년으로 잡고 있지만 보증 연장이나 재배치 전략에 따라 실제 사용 가능 기간은 더 늘어난다고 한다.
감가상각 기간을 우려하는 사람은 보증 계약을 간과하기 쉽다고 로우(ロウは)는 지적하고 있다. 보증은 통상 5년간 유효하며 기간 내에 GPU가 고장났을 경우 새 것으로 교체되기 때문에 GPU 전체의 내용연수가 늘어난다.
또, 아마존·웹·서비스(Amazon Web Services)가 제공해 온 K80, P100, V100이라고 하는 초기 세대의 GPU는, 모두 6년을 크게 넘어 가동하고 있었다고 한다.
게다가 2022년에 등장한 엔비디아의 H100도 람다의 데이터 센터에서 순조롭게 가동되고 있다. 이용률은 85%를 넘었고 온디맨드 퍼블릭 클라우드 가격은 12개월 이상 인하되지 않았다고 로우는 말했다.
우리는 모두 GPU를 78년 사용할 수 있다고 생각한다
◇ Crusoe에서의 사용 상황
11월 중순, 필자는 크루소(Crusoe)의 프로덕트 매니지먼트 담당 상급 바이스 프레지던트, 에르완·메나르(Erwan Menard)와 이야기할 기회를 얻었다. 이 회사는 텍사스주에서 대규모 데이터센터 복합시설인 Stargate를 짓고 있다. 메나르는 크루소 입사전, 구글(Google)의 Vertex AI 클라우드 서비스의 구축에 종사하고 있어, 현장에 정통하다.
크루소의 데이터센터에서 GPU는 먼저 최첨단 AI 모델 학습에 사용되고 이후 부하가 낮은 추론 용도에 사용된다는 라이프사이클을 따른다고 메나르는 설명한다.
최첨단 AI 모델을 새롭게 구축할 경우에는 엔비디아의 최신 고성능 GPU가 사용된다. 추론 용도에도 고성능 GPU는 요구되지만 반드시 최신형일 필요는 없다.
게다가 오래된 GPU로도 충분히 대응 가능한 AI 작업이 수천 가지 존재한다고 한다. 즉, 크루소의 GPU군에는 수년 경과한 것도 많이 포함되어 있지만, 현재도 활발하게 사용되어 이익을 낳고 있다.
「여러가지 문제를 푸는 다종다양한 모델이 존재하기 때문에, GPU는 장기간에 걸쳐 폭넓게 사용할 수 있다. 단지 어떤 잡에서 다른 잡으로 이행시키면서 사용하면 될 뿐이다」라고 메나르는 말한다.
「이 생각은, 업계에서 널리 받아들여지고 있다」
◇ 무료판과 유료판
AI 클라우드 사업자는 사용자의 기대치와 예산을 바탕으로 어떤 GPU를 사용할지 판단하고 있다. 메나르는, 무료판과 유료판을 제공하는 AI 서비스를 예로 들어 「프리미엄판에서는, 성능은 낮지만, 보다 염가로 낡은 하드웨어상에서 추론할 수 있는 AI 모델을 채용한다, 라고 하는 판단도 있을 수 있다」라고 설명했다. 그럼에도 사용자에게 초기 체험을 제공하기에는 충분한 성능이 있다.
초기적인 이용 체험을 거친 일부 유저는 유료판으로 이행할 가능성이 있다. 유료판에서는 보다 뛰어난 사용자 경험을 제공하기 위해 AI 클라우드 사업자는 새로운 GPU를 필요로 하는 고성능 AI 모델을 이용하게 된다.
「이러한 기회는 매우 많이 존재한다」라고 메나르는 말한다.
모든 문제가 최신 최고의 GPU로 거대 모델을 움직여야 하는 것은 아니다
Alistair Barr