반도체 초보자를 위한 특강

[염명호/20회졸업]

반도체 기초 12문 12답

세계는 지금 인공지능(AI) 전쟁 중이다.

더 빠르고 정확한 AI를 개발해 산업 생태계 패권을 잡으려는

각축전이 한창이다.

특히 AI의 두뇌에 해당하는 반도체 기술 역량에 따라 세계 경제가

움직이고 있다.

세계 최고 반도체 기업들을 보유한 한국은 그런 변화의 중심에 있다.

그러나 HBM·GPU·파운드리에 '베이스 다이'까지, 암호같은 용어 탓에

반도체를 이해하기 쉽지 않다는 이도 많다.

반도체가 궁금하지만 이해하긴 늦었다고 한숨 쉬는 '반알못(반도체를

알지 못하는 사람)'을 위해 김정호 KAIST 전기·전자공학부 교수와

삼성전자·SK하이닉스 등 업계 전문가들의 조언을 들어 기초 다지기

'특강'을 준비했다.

15분만 투자해 읽으면 반도체 '울렁증'이 사라지는

반도체 완전 정복 12문 12답이다.

1. 반도체는 무엇인가

조건에 따라 전기가 흐르는 도체(導體)가 되기도, 흐르지 않는

부도체(不導體)가 되기도 하는 실리콘 같은 물질을 '반(半)도체'라고 부른다.

요즘은 컴퓨터의 '두뇌' 기능을 하는 핵심 부품을 뜻하는 단어.

2. 반도체의 종류는 어떻게 나뉘나

기능에 따라 크게 메모리(memory) 반도체와 비(非)메모리 반도체로 나눈다.

메모리 반도체는 정보 저장, 비메모리 반도체는 연산을 담당한다.

통상 '머리가 좋다'고 하면 암기력이 좋은 사람과 머리가 잘 '돌아가는'

사람이 있다.

두 능력은 완전히 다른데 전자를 메모리, 후자를 비메모리의 기능에

비유할  수 있다.

비메모리 반도체는 시스템 반도체, 로직 반도체 등으로 불리기도 한다.

메모리·비메모리 반도체에도 각각 하위 분류가 있다.

메모리 반도체는 단기 기억(D램)이냐 장기 기억(낸드플래시)이냐에 따라

나눌 수 있다.

비메모리 반도체는 이보다 복잡하다.

암기 능력은 '잘 기억한다'는 비교적 균질한 능력이지만, '머리가 잘

돌아간다'는 정의엔 수많은 유형이 있는 것과 비슷하다

(작곡을 잘하는 사람과 시를 잘 쓰는 사람, 암산을 잘하는 사람은

모두 머리가 좋지만 능력의 종류는 완전히 다르다).

데이터를 연산·처리하는 중앙 처리 장치(CPU), 스마트폰에 특화된

애플리케이션 프로세서(AP), 그래픽 처리 장치(GPU) 등이

비메모리 반도체이다.

이 중에 AI 기술과 관련해 기억해야 할 반도체는

(기억하세요!) GPU이다.

3. GPU가 AI에 왜 중요한가

애초에 GPU는 '그래픽 처리 장치'라는 이름에 걸맞게 게임이나

동영상에서 더 풍부한 색감을 구현하도록 만든 반도체였다.

AI가 등장하기 전까지는 컴퓨터의 부차적 부품이었다고 해도 과언이 아니다.

이 GPU를 가장 잘 만드는 회사가 22일 큰 관심 속에 실적을

발표한 미국의 엔비디아.

엔비디아가 의도한 것은 아니지만, GPU라는 반도체는 방대한 정보를

빠르게 학습하고 능력을 키워가는 AI를 구동하기에 매우 적합하다는

점이 드러났다.

4. GPU의 어떤 점이 특출한가

간단히 설명하자면 종전 연산용 CPU는 계산의 정확도가 매우 높지만

AI에 쓰기엔 속도가 부족했다.

반면 GPU는 계산 정확도는 CPU만큼 높지 않지만 속도가 매우

빠른 특성이 있다.

조금 부정확하더라도 시행착오를 빨리, 다양하게 거칠수록 유리한

AI로선 GPU가 더 적합하다고 판명이 났다.

5. 엔비디아가 GPU의 유일한 강자인가

지금으로선 최강자가 맞다.

엔비디아는 GPU 한 우물만 판 이례적인 회사이다.

미국 AMD 등 경쟁자들이 CPU에 눈을 돌리는 동안 엔비디아는

GPU 성능 개발에만 매달렸다.

특히 자체 개발한 프로그래밍 언어 '쿠다'가 핵심 기술로 꼽힌다.

AI가 제 기능을 하려면 사람이 주는 과제를 GPU가 제대로 이해해야 하는데,

이를 위해 엔비디아는 GPU가 이해하기 쉬운 언어인 쿠다를 개발했다.

시장 지배적 위치의 GPU 기업이 만든 언어는 이제 AI 프로그래머들의

기본 언어가 됐고, 이젠 쿠다 없이 AI 프로그래밍이 번거로운 상황이 됐다.

모두가 영어를 쓰는 나라에 한국어만 아는 사람이 가면 소통이 어려운 것과 비슷하다>.

6. GPU는 누가 만드나

엔비디아는 GPU를 공장에서 '제조'하는 회사는 아니다.

GPU가 최고의 성능을 낼 수 있도록 설계, 즉 디자인을 하는 기업.

엔비디아같이 공장 없이 반도체를 개발하기만 하는 기업을 '팹리스(fabless)'라고 부른다

(제작을 뜻하는 패브리케이션〈fabrication〉에 없다는 뜻인 리스〈less〉가 붙은 파생어).

이런 팹리스에서 주문을 받아 반도체를 만드는 회사는 '파운드리(foundry)'라고 한다.

대만의 TSMC가 대표적인 파운드리이고 한국의 삼성전자도 파운드리 사업을 한다.

엔비디아의 GPU는 주로 세계 1위 파운드리인 TSMC가 생산하고 있다.

위의 구분은 용도에 따른 '맞춤 생산'이 필요한, 비메모리 반도체에 대한 분류인데.

대규모 생산 시설이 필요한 메모리 반도체의 경우 몇 안 되는 회사가

개발부터 제작까지 다 맡아 하는데 삼성전자와 SK하이닉스가 세계 메모리

반도체의 약 70%를 생산하고 있다.

참고로 반도체의 성능은 '나노미터(10억분의 1미터)'에서 따온 '나노'라는

단위로 표시하는데,

숫자가 작을수록 성능이 좋다는 뜻이다.

7. 메모리 반도체도 중요한가

물론이다.

기억을 저장하는 능력이 없다면, 머리가 아무리 잘 돌아가도 한계가 있다.

한국 기업도 AI 시대에 맞춰 열심히 움직여 AI에 적합한 메모리 반도체를

만들었다.

 SK하이닉스가 개발해 선보인 'HBM(고대역 메모리)' 반도체가 대표적이다.

8. HBM은 어디에 쓰이나

AI가 빠르게 시행착오를 거치며 학습하려면 연산 속도만큼 빠르게

데이터를 저장하고 뽑아 쓸 수 있는 반도체도 필요하다.

이것이 HBM.

아무리 많은 용량을 저장하더라도, GPU의 연산 속도를 쫓아갈 만큼

GPU에 빠르게 데이터를 전달하지 못하면 데이터의 '병목 현상'이 발생한다.

HBM은 이 문제를 해결한다.

한 번에 모든 것을 이해할 수 있는 뇌가 있어도 내용을 빨리 읽는 눈이나

책장을 빨리 넘길 손이 없다면 소용이 없듯.

HBM은 민첩한 눈과 손처럼 방대한 자료를 빠르게 GPU에 넘겨즌다.

그래서 HBM이 들어간 GPU 반도체 세트를 'AI 가속기'라고 부른다.

9. HBM은 어떻게 빠른 속도를 내나

HBM의 핵심은 메모리 반도체(D램) 중간중간에 일종의 데이터 '도로'

(실리콘 관통 전극〈TSV〉이라 부릅니다)를 만들어 데이터가 빨리

오가게 만들었다.

일반적인 D램의 '도로'가 32~64차선 도로라면 HBM은 이 도로를

1024차선 이상으로 대폭 확대했다고 이해하면 된다.

게다가 이런 D램을 여러 층으로 쌓아서 AI에 필요한 방대한 데이터를

한 번에 저장하고, 이 데이터들이 편히 오가게 만들었다.

여러 D램을 수직으로 쌓아 올리는 HBM의 특성 때문에 TSV를

도로가 아닌 엘리베이터에 비유하기도 한다.

10. HBM은 어디까지 발전했나

2013년 SK하이닉스가 세계 최초로 개발한 이후 HBM은 발전을

거듭해 왔다.

특히 2020년 '챗GPT' 같은 생성형 AI(인간의 언어를 이해하고 응답하는

AI) 시대가 도래하자 '제 역할'을 찾은 HBM이 빠른 속도로 발전을

거듭하고 있다.

 SK하이닉스는 HBM의 성능과 용량을 계속 향상시켜 올해 상반기에

최고 12단(지금은 최고 8단) 'HBM3E'를 양산할 계획이다.

아울러 GPU 옆에 HBM을 배치하던 종전 방식에서 벗어나 HBM 아래

간단한 연산(비메모리) 기능을 수행하는 반도체를 놓는 이른바

HBM4 양산도 눈앞에 두고 있다.

메모리와 비메모리 반도체의 거리를 좁혀 데이터 운반 효율성을

높이겠다는 전략이다.

11. GPU 위에 HBM을 올리면 무엇이 좋아지나

HBM4의 '1층'을 통상 '베이스 다이(Base Die)'라고 부른다.

GPU의 보조적 역할을 담당하는데, 더 발전하면 GPU의 기능을 상당히

수행할 수 있다는 전망도 나온다.

GPU를 백화점, HBM을 백화점에서 산 물건을 저장하는 아파트에 비유하면

HBM4는 필요한 상가를 1층에 모아 놓은 주상 복합 건물과 비슷하다고

할 수 있다.

삼성전자와 SK하이닉스 모두 개발 중이다.

이 베이스 다이엔 보다 복잡한 연산을 수행하는 '정식' GPU까지 데이터가

잘 오고 가게 할, 일종의 '고속 터미널' 역할을 하는 통신 회로도 들어 있다.

아파트(HBM)에서 엘리베이터(TSV)를 타고 이동하는 사람(데이터)들이

오가는 1층 상가층(베이스 다이)에 고속 터미널이 생겨서, 사람들이

백화점(GPU)까지 더 효율적으로 이동할 수 있게 됐다>.

12. AI 시대는 한국 반도체 기업들에 기회인가

AI 반도체 시장에서 HBM이 중요해진 현재 상황은 메모리 반도체 강자인

한국 기업들에는 반가운 일.

하지만 HBM을 처음 개발한 SK하이닉스도 마냥 웃을 수만은 없는 상황이다.

연산 능력까지 갖춘 HBM4용 베이스 다이를 SK하이닉스 혼자서는 만들 수

없기 때문

(SK하이닉스는 메모리 반도체는 잘 만들지만 고성능 GPU는 제작하지 못한다).

SK하이닉스는 그동안 HBM을 대만 파운드리 TSMC에 공급해 왔다.

TSMC는 SK하이닉스의 HBM과 엔비디아 의뢰로 만든 GPU를 최종 결합하는

작업(패키징)을 해왔다.

이른바 SK하이닉스-TSMC-엔비디아 '연합군'이다.

한편에선 TSMC가 이제 HBM 제조 단계까지 손을 뻗치고 있다고 한다.

메모리 반도체 설계·제조와 파운드리를 모두 운영하는 삼성전자는

베이스 다이를 자체 제작할 수도 있다.

GPU부터 HBM까지 모두 만들 수 있다는 뜻이다.

하지만 엔비디아·TSMC·SK하이닉스가 협력하며 세를 불리는 상황에

이들을 이겨낼 수 있을지가 관건이다.

삼성전자가 최근 반도체 부문을 이끄는 DS부문장(부회장)을 갑자기 교체한

배경에 이런 위기감이 작용했을 수 있다는 해석이 나오는 이유.

[염명호/20회졸업]

7/3모임 주요화제
참석)한식,종수 ,호용,은식,춘한,현영,세영,명호(8명)

1)월가갈비는 2일전 역주행 으로 도로 돌입하여
9명사망한 시청현장 ,많은 애도의 꽃과 음료수를
볼수 있었고 사고경위,급발진 여부를 놓고 결론없는
설왕설래
2)헌재의 친족 상도례법 질문
3)한달후의 파리 올림픽
4)야당이 추진하는해병사망 특검법
5)칠순이후( 생활근거지 )이사는 쇠약해진 노구가
감당하지 못하는 중노동,보관중이거니 시용안하는
잡동사니를 놓고 부부간의 싱갱이와 갈등
6)한식,세영의 낙과 보관법
7)후식 준비한 한식의 자두 와 plum의 meaning
8)참석못한 용훈,종국,영규 근황 문의
9)참석자 회비입금 80만원
10)저녁식대 308,000 종업원팁 20,000지출
회비잔액;800,000+71,800-328,000=543,800


11) 8월 얼굴 보는 날
8/16(금)저녁5시,오륜역 근처 장어촌에서
여름보양 식, 식당위치는 은식의 현지 답사후 통보