|
|
NVIDIA 데이터센터 GPU (H100 등)
AMD Instinct GPU
이유
GPU는 메모리 대역폭(Bandwidth)을 매우 많이 필요로 함
HBM은 일반 DRAM보다 수 배 높은 대역폭 제공
그래서 AI 학습, 시뮬레이션, 슈퍼컴퓨터 같은 분야 GPU에 많이 붙습니다. (Exxact Corp.)
2️⃣ CPU + HBM (이미 존재)
HBM이 GPU만 있는 것은 아닙니다. CPU에도 들어간 사례가 있습니다.
대표 예
Intel Xeon CPU Max Series
CPU 패키지 안에 HBM 64GB 포함 (인텔)
Fujitsu A64FX CPU
슈퍼컴퓨터 Fugaku에 사용
CPU 옆에 HBM2 32GB 탑재 (Semiconductor Engineering)
이 경우 구조는
CPU + HBM (같은 패키지)
HBM을 메인 메모리 또는 캐시처럼 사용합니다.
3️⃣ FPGA / AI ASIC에서도 사용
HBM은 다음 칩에도 사용됩니다.
FPGA (예: Xilinx HBM FPGA)
AI 전용 ASIC
네트워크 칩
슈퍼컴퓨터 가속기
즉 **“대역폭이 매우 필요한 칩”**이면 HBM을 붙입니다. (위키백과)
4️⃣ 왜 GPU에서 특히 많이 쓰일까
HBM이 GPU에 집중된 이유는 비용과 패키징 때문입니다.
HBM 특징
3D 스택 메모리
실리콘 인터포저 필요
패키징 비용 매우 높음
발열 문제
그래서 일반 CPU나 PC용 제품에는 잘 안 씁니다.
현재 구조:
일반 CPU → DDR5 일반 GPU → GDDR6/GDDR7 AI/HPC GPU → HBM
✔ 핵심 정리
HBM 사용처
칩 종류사용 여부
| GPU | 매우 많음 (주요 시장) |
| CPU | 일부 HPC CPU |
| FPGA | 있음 |
| AI ASIC | 있음 |
| 일반 PC | 거의 없음 |
👉 따라서
“현재는 GPU 중심이지만 GPU 전용 기술은 아니다.”
원하시면 제가 HBM 패키지 구조 (GPU + HBM + 인터포저)를
PCB 관점에서 그림으로 아주 이해 쉽게 설명해 드리겠습니다.
PCB 하시는 분들은 이 구조를 보면 바로 이해됩니다.