이 엔비디아산 인공지능 보드 하나에 약 3000W 가까이 먹습니다.
세부적으로 보면 위에 큼직한 칩 2개는 하나에 1200W씩 먹고
가운데 놈은 그레이스 CPU라 불리는데 300W 먹습니다.
이 보드에는 그 유명한 초고가 24GB HBM3E 하이닉스 메모리가 8개나 들어갑니다.
우리가 일반적으로 가정에서 쓰는 전기 소비전력이 이 정도입니다.
고의적으로 에어컨을 18도 이하로 맞추거나 전자레인지로 핫바 구워먹어도 저 보드를 못이긴다는거죠
NVIDIA NVL72
황회장 : 내가 이번에 인공지능 보드 만들면서
성능을 최대치로 끌어올릴 수 있는 컴퓨팅 유닛 한번 만들어봤는데
B200칩(1200W)이 72개나 들어갔음. 많이 많이 사줘요
마크 저커버그 : 앞으로 Ai 서버가 쳐먹는 막대한 전력이 문제가 될 거다
첫댓글 전기먹는 하마군요
사람처럼 작동하는 것, 그걸 인공지능의 최종 목표로 삼아야 한다고 생각해요.
사람은 24시간 뇌를 쓰질 않잖아요. 쉴 때도 있고, 집중할 때도 있고, 심지어 까먹을 때도 있죠.
인공지능 전성비? 전력효율을 이뤄내기 위해선 사람의 뇌 작동 매커니즘과 완전 똑같아져야 한다...고 봅니닷
???. 서버도 작업 명령 없으면 쉽니다. idle 상태라고 하지요.
@구경하는사람24 ㄴㅇㄱ
이럴수가 구현이 됐군요 처음 알았어요 !!
비트코인 채굴로 전기 먹는거 보단 나은듯
전기가 쓸데가 없으니 채굴한다고 대기오염으로 바꾸는 사람이 한트럭인데 AI좀 쓸 수도 있죠
연구실 서버가 서버 전용 건물이 아닌 일반 건물에 있어서 전기 때문에 고생이 많습니다. 건물 내 가까운 곳에서 죄다 끌어오는데도 간당간당함. 올 여름에 아무래도 ㅈ될 각인데
건물 시설쪽 문의해서 전력 사용량 한번 체크해보셔야할듯
전력 많이 사용하면 화재도 발생할수있으니
@Dirus 시설팀하고 계속 얘기 중인데 지금도 아슬아슬하게 쓰고 있는 상황에 교수님이 규모 키우고 싶어하셔서
@커넬 샌더스 그렇다면 그냥 작은 사고를 한번 치면 옮기던가 다른방안 확인하실듯.
차단기한번 내려가게 쇼트를 낸다던가...
@Dirus 사실 이미 났..... 사실 연구과제 따오면 서버실 준다고 하고 안 준 학교 잘못도 있긴합니다.
@커넬 샌더스 학교 총장이 잘못했네요.
비효율적인 무기체놈들....
모두 유기체로 교체...어...?
ㅋㅋㅋ진짜 너무심하네요.... 전자렌지 드라이기 커피포트 이런거는 길어야 3분 이정도 돌리니까 저정도 전기량이지 보통 저 세개 동시에돌리면 좀 오래된아파트는 바로 정전납니다.
근데그걸 항시 돌리는 AI에 저따위로..
AI칩 팔아먹는 놈들한테 팔아먹은 kW수만큼 태양광설치하게 해야합니다.