AI 데이터 센터에 대한 Big Tech 회사 지출 시각화

[이매진]

AI 데이터 센터에 대한 Big Tech 회사 지출 시각화

https://www.visualcapitalist.com/visualizing-big-tech-company-spending-on-ai-data-centers/#google_vignette

빅테크의 AI 데이터 센터 비용

이 글은 원래 Voronoi 앱 에 게시되었습니다 . iOS 또는 Android 에서 앱을 무료로 다운로드하고 다양한 신뢰할 수 있는 출처에서 놀라운 데이터 기반 차트를 발견하세요.

대형 기술 기업들은 고급 AI 워크로드에 필요한 컴퓨팅 성능과 인프라에 대한 수요 증가를 충족하기 위해 AI 데이터 센터에 수십억 달러를 공격적으로 투자하고 있습니다.

이 그래픽은 2024년 1월부터 8월까지 Microsoft, Google, Meta, Amazon의 총 AI 자본 지출과 데이터 센터 운영 비용을 시각화한 것입니다.

AI 자본 지출은 장기 AI 자산과 인프라에 대한 일회성 또는 비정기적인 투자입니다.

데이터 센터 운영 비용 은 AI 데이터 센터를 매일 운영하고 유지 관리하는 데 드는 지속적인 비용입니다.

데이터는 JP Morgan을 통한 New Street Research에서 제공 되며 2024년 8월 기준으로 업데이트되었습니다. 수치는 수십억입니다. 운영 비용에는 현금 운영 비용, 소프트웨어, 감가상각비 및 전기가 포함됩니다.

AI 모델 훈련은 비용을 소모하고 있습니다

아래에서는 Microsoft, Google, Meta, Amazon의 총 AI 자본 지출과 데이터센터 운영 비용을 보여줍니다.

회사GPU 및 기타 칩기타 AI 지출총 자본지출교육 및 연구개발추론총 운영 비용

마이크로소프트	200억 달러	200억 달러	400억 달러	30억 달러	30억 달러	60억 달러
메타	110억 달러	120억 달러	230억 달러	20억 달러	20억 달러	40억 달러
Google	140억 달러	150억 달러	290억 달러	30억 달러	10억 달러	40억 달러
아마존	80억 달러	80억 달러	160억 달러	20억 달러	10억 달러	30억 달러

Microsoft는 현재 총 AI 데이터 센터 비용 부문에서 선두를 달리고 있으며, 2024년 8월 현재 자본 지출과 운영 비용으로 총 460억 달러를 지출했습니다.

Microsoft는 현재 300개로 가장 많은 데이터 센터를 보유하고 있으며, 그 뒤를 이어 Amazon이 약 215개로 뒤따릅니다. 그러나 규모와 용량의 차이로 인해 시설 수가 항상 전체 컴퓨팅 성능을 반영하지는 않습니다.

9월에 Microsoft와 BlackRock은 글로벌 인공지능 인프라 투자 파트너십( GAIIP )을 통해 AI 중심 데이터 센터와 이를 지원하는 에너지 인프라를 개발하는 1,000억 달러 규모의 계획을 발표했습니다 .

주목할 점은 Google과 Amazon 둘 다 현재 최종 사용 고객을 위해 모델을 운영하는 데 사용하는 비용(추론)보다 모델을 훈련하는 데 사용하는 비용이 두 배 이상 많다는 것입니다.

주요 AI 모델의 학습 비용은 점점 더 비싸지고 있습니다 . 이는 대규모 데이터 세트, 복잡한 계산, 상당한 컴퓨팅 리소스가 필요하고, 종종 강력한 GPU와 상당한 에너지 소비가 필요하기 때문입니다.

그러나 AI 모델 배포의 빈도와 규모가 계속해서 커지면서 추론의 누적 비용은 이러한 초기 학습 비용을 넘어설 가능성이 높습니다. 이는 이미 OpenAI의 ChatGPT 의 경우와 같습니다 .