HBM 버리고 SRAM 간다? (안될공학)

제목이 좀 어그로네요.
좀 어려울 수 있는데, 그냥 한번 봅시다.
그런데, 이분 삼전 사셨나?
삼전에게 더 기회의 문이 열리는 것인지?
GTC 2026이 기다려지네요. (3월 16일 황아저씨 키노트)

https://youtu.be/obCEmcBBe-M?si=MGGpqvcHafMfc7I6

(제미나이 요약)

해당 영상은 **엔비디아(NVIDIA)**가 차세대 AI 추론 칩 전략으로 HBM(고대역폭 메모리) 대신 S램(SRAM) 기반의 LPU 기술을 채택하려는 움직임과 이것이 삼성전자 파운드리에 미칠 긍정적인 영향에 대해 다루고 있습니다.
​주요 내용을 요약해 드립니다.

​1. 엔비디아의 새로운 전략: 그로크(Groq)와의 협업
​엔비디아는 최근 LPU(언어 처리 장치) 설계 기업인 **그로크(Groq)**와 비독점 라이선스 계약을 체결했습니다. [02:14]
​그로크의 기술은 HBM 대신 **S램(SRAM)**을 칩 내부에 직접 박아 넣는 방식(On-chip)을 사용합니다. 이는 메모리 이동 과정에서 발생하는 지연 시간(Latency)을 극단적으로 줄여줍니다. [04:05]
​차세대 아키텍처인 '파이먼(Feynman)' 플랫폼에서 이러한 LPU 기술이 결합된 하이브리드 시스템이 등장할 가능성이 높습니다. [08:47]

​2. 왜 HBM 대신 S램인가? (추론의 효율성)
​AI 연산은 크게 **프리필(Pre-fill, 입력 읽기)**과 디코드(Decode, 답변 생성) 단계로 나뉩니다. [07:21]
​디코드 단계에서는 단어를 하나씩 내뱉을 때마다 발생하는 지연 시간이 중요한데, S램은 HBM보다 대역폭이 훨씬 넓고 반응 속도가 빨라 이 과정에 최적화되어 있습니다. [08:24]
​S램 기반 설계는 작업 시간이 일정하게 정해지는 결정론적(Deterministic) 특성이 있어, 스케줄링 효율을 100% 가깝게 끌어올릴 수 있습니다. [06:42]

​3. 삼성 파운드리의 부활 기회
​그로크는 이미 삼성전자 파운드리의 주요 파트너로, 4나노 공정 등을 통해 칩을 생산해 왔습니다. [14:34]
​엔비디아가 그로크의 기술을 채택함에 따라, TSMC에만 의존하던 공급망을 **삼성 파운드리로 다변화(세컨드 소스)**할 가능성이 열렸습니다. [15:07]
​S램 중심의 칩은 최첨단 미세 공정보다 메모리 대역폭과 수율이 중요하므로, 안정적인 수율을 확보한 삼성의 4나노 공정이 가격 대비 성능 면에서 유리할 수 있습니다. [15:36]

​4. 결론 및 전망
​과거에는 S램 방식이 비싼 비용 때문에 부정적으로 평가받기도 했으나, 에이전트형 AI(Agentic AI) 시대가 오면서 실시간 추론 성능이 중요해짐에 따라 그 가치가 재조명되고 있습니다. [21:23]
​엔비디아는 쿠다(CUDA) 생태계를 유지하면서도 하드웨어적으로는 GPU와 LPU를 결합한 하이브리드 구조를 통해 경쟁력을 강화할 것으로 보입니다. [10:51]

저 컴맹이라 정말 어려워서
그냥 어찌 봅니꽈ㅜ
축하드립니다
감사합니다

삼전 파운드리가 수혜를 받을 수 있으면 좋겠습니다.
K 반도체 전성시대를... ^^

HBM과 SRAM은 용량 차이가 엄청 납니다.
GPU + LPU의 하이브리드 형태를 기본 전제로 하는 것 같습니다.
SRAM을 내장한 LPU를 도입한다면 삼전 파운드리에 기회가 올 가능성도 있어 보입니다.
부디 그렇게 되면 좋을 것 같은데...

네. 학습과 추론의 분업 구조로 학습은 GPU가 담당하고 더 많은 hbm을 쓰게 될 거예요.
빠른 추론을 위해 SRAM을 쓰는 LPU를 도입한다면 SRAM은 트랜지스터 6개라 웨이퍼 면적 효율이 낮아 TSMC의 웨이퍼 캐파로 감당이 안될 것 같아요. 결국 삼성 파운드리에 떡고물이 갈 수밖에 없지 않을까 생각해요. 그래서 GTC 2026을 약간 기대감을 가지고 기다리게 되네요.

만약에 엔디비아 측에서 뭔가 발표한다면 의미있게 봐야 할 내용인듯 합니다만,

지금은 방송에도 나와있듯이 지금 뭔가 세상을 바꾸는.기술이라기 보다는 이런 것도 있다 정도의 개념이라고 이해했습니다

GTC 2026에 베라 루빈 다음 세대인 파인만을 발표한다고 합니다.
파인만의 아키텍쳐에 따라 삼성전자의 수혜 가능성도 있네요.
좀 기대가 됩니다.