반도체 : TPU 부각에 따른 영향

[맥가이버]

[하나증권 반도체 김록호/김영규] 
Industry Research

반도체(Overweight): TPU 부각에 따른 영향

링크: https://vo.la/GZXAx8S

■ Meta가 Google의 TPU를 채용?

Meta가 2027년 가동에 들어갈 데이터센터에 Google의 TPU 사용을 검토하고 있다는 언론 보도가 있었음. Google의 TPU 연혁을 살펴보면, 2016년에 추론 전용칩인 TPU 1세대를 통해 구글 검색의 음성 인식 등 내부 서비스의 추론 작업 가속화에 집중해왔음. 2017년에는 훈련도 지원 가능한 TPU 2세대 칩을 출시했고, Cloud TPU 서비스를 통해 구글 클라우드 고객에게 최초로 공개했음. 이후 AI 모델 및 추론 영역을 강화해 왔고, 2025년 TPU 7세대 칩을 공개했다. 7세대 TPU는 이전세대대비 HBM 용량이 6배 증가한 192GB를 탑재해 대규모 모델 추론 효율을 극대화했음. 해당 칩이 이번 기사에서 언급된 칩으로 추정

■ 추론 AI는 예정된 경쟁. 훈련용에 생긴 균열?

Google의 자체 ASIC인 TPU를 포함해서 Microsoft, Amazon, Meta 등의 빅테크 업체들도 자사 ASIC 칩을 지속 개발 및 출하했음. 향후에도 추론 영역에서 자사 ASIC의 활용 범위를 확대하고자 하는 계획을 갖고 있었음. Nvidia 입장에서 추론 영역에서의 경쟁 심화는 예정된 수순이었음. 다만, Meta가 Google TPU 사용을 고민한다는 기사가 맞다면, 이는 훈련용으로 활용하려는 의도일 것으로 추정. 이는 Nvidia 입장에서 점유율에 일부 균열이 일어날 가능성에 노출된 것

■ 투자 비용 효율화에 대한 고민

Meta와 같은 빅테크 업체들은 Capex가 지속 상향되면서 비용 및 전력에 대한 부담이 가중되는 상황이었고, 효율적인 투자에 대한 하나의 대안을 시도하는 것으로 추정. 다만, Google의 TPU 역시 여타 ASIC과 마찬가지로 GPU처럼 범용, 호환성, 그리고 고정밀 연산 작업을 하기는 어려울 것. TPU는 AI 학습에 필수적인 행렬 연산을 위한 낮은 정밀도 연산에 최적화되었기 때문에 연산 속도 및 전력 소모 측면에서 유리. 반면에 GPU처럼 다양한 AI모델 학습, 과학 시뮬레이션이나 그래픽 렌더링과 같은 작업을 하기에는 한계가 있음. 결국 훈련용 AI 영역에서 GPU를 완전히 대체하기에는 무리가 있다고 판단

다만, 일정 영역에서 TPU를 활용함으로서 비용 및 전력을 낮출 수 있을 것으로 전망. Nvidia 역시 추론 영역에서 에이전틱 AI 및 피지컬 AI 전용 개발자 플랫폼인 블루프린트, 옴니버스 등을 통해 선제적으로 고객사를 확보한 부분도 있기 때문에 훈련 및 추론 영역 모두에서 경쟁이 활발해질 것으로 예상

■ 메모리에 대한 영향은?

메모리 입장에서 보면 GPU가 HBM에 대한 의존도 및 스펙이 확실히 높음. 다만, ASIC 역시 스펙이 상향되며 고사양, 고용량 HBM이 탑재되고 있고, HBM의 수요처가 다변화된다는 측면도 고려해야 함. 결국 HBM의 전체 수요는 우상향하는 것이기 때문에 부정적인 영향은 제한적이라 판단. 다만, 기존에 독보적인 지위를 갖고 있던 Nvidia의 GPU와 SK하이닉스의 HBM에 대한 프리미엄은 고민이 필요해짐. 새로운 도전자의 등장은 기존 강자들 입장에서는 불편한 요소일 수밖에 없으며, 이런 경쟁을 통해 시장은 성장한다는 것을 상기해야 함