HBM을 덜 쌓고 더 빠르게 — 삼성이 엔비디아 맞춤 메모리 파트너가 된 이유 엔비디아가 삼성전자에 제시한 속도 사양은 17~18Gbps입니다. 삼성이 처음 내놓은 샘플 속도(14.4Gbps)보다 20% 높은 수치입니다. 그리고 엔비디아는 더 높이 쌓는 대신 오히려 층수를 낮추기로 했습니다. AI 메모리 시장의 경쟁 공식이 바뀌고 있고, 삼성은 그 새 공식에 유리한 위치에 있습니다.
엔비디아는 차세대 AI 메모리 규격 'NVHBM'에 쓸 HBM4E(7세대) 8단 제품을 삼성에 요청했습니다. 삼성이 당초 준비한 건 12단·16단이었습니다. 층수를 줄이는 대신 속도를 17~18Gbps까지 끌어올리는 것이 엔비디아의 요구입니다. NVHBM은 엔비디아가 공개한 독자 연결 기술 'NV링크'에 최적화된 메모리입니다.
HBM은 4단에서 8단, 12단으로 층수를 높이며 용량을 늘려왔습니다. 층수가 높아질수록 D램 다이를 얇게 깎고 정밀하게 쌓아야 해 제조 난이도와 불량률 부담이 커집니다. 엔비디아의 이번 요청은 그 방향을 거슬러 올라갑니다. 8단은 제조 부담이 낮아 같은 시간 안에 더 많은 HBM을 공급받기에 유리합니다.
업계는 이번 전략 변화를 엔비디아의 메모리 공급 부족 타개책으로 읽습니다. 고적층 HBM은 생산이 어렵고 수율(정상 작동 비율)이 낮아 물량 확보에 한계가 있습니다. 엔비디아는 대신 GPU 간 연결 수를 기존 72개에서 최대 576개로 8배 늘리는 방향을 택했습니다. GPU 한 개당 메모리 용량은 줄더라도, 더 빠른 HBM을 탑재한 GPU 수백 개를 하나로 묶어 전체 연산 성능을 높이겠다는 구상입니다. NVHBM은 내년 출시 예정인 차세대 AI GPU '루빈 울트라'부터 적용될 가능성이 높습니다.
NVHBM에는 D램뿐 아니라 로직(시스템반도체) 기반의 베이스다이 설계·생산 역량이 함께 필요합니다. 베이스다이는 HBM 적층 구조의 가장 아래에 위치해 신호 처리와 인터페이스를 담당하는 핵심 부품입니다. SK하이닉스와 마이크론은 이 역량을 외부에 의존하지만, 삼성은 D램과 로직을 모두 자체 생산할 수 있습니다. 업계 관계자는 "삼성은 HBM4에서 업계 최고 수준의 속도를 입증한 만큼 고적층보다 속도 경쟁에서 강점을 살릴 수 있다"고 말했습니다. 엔비디아가 속도 우선으로 방향을 틀면서, 삼성의 강점이 맞아떨어진 셈입니다.
삼성이 엔비디아의 핵심 파트너 지위를 선점했다는 것은 업계의 공통된 시각입니다. 다만 이번 전략 변화가 삼성에게만 유리한 것인지는 아직 확정되지 않았습니다. SK하이닉스 역시 HBM 시장 점유율 1위를 유지하고 있으며, NVHBM 공급 경쟁에서 완전히 배제된 것은 아닙니다. 엔비디아가 공급 안정을 위해 복수 파트너를 유지할 가능성도 있습니다.
이번 변화의 핵심은 "더 높이 쌓는 것"에서 "더 빠르게 연결하는 것"으로 AI 메모리 경쟁 기준이 이동했다는 점입니다. 삼성이 엔비디아의 새 기준에 먼저 대응하게 된 것은, HBM4에서 입증한 속도 경쟁력과 로직·D램 일괄 생산 능력 덕분입니다. NVHBM이 루빈 울트라에 실제로 탑재될 경우, 삼성의 HBM 사업 반등 여부를 가늠하는 첫 번째 기준점이 될 것입니다.
다 읽었어요
약 3분 분량의 오늘 레터
끝까지 읽어주셔서 고마워요.
AI LENS 편집팀
친구에게 공유하기
웹툰 대사 전문
HBM은 지금까지 높이 쌓을수록 강한 메모리였다.
B: 엔비디아가 12단·16단 말고 8단을 달라고요? A: 네. 높이 쌓는 경쟁은 이제 접겠다는 거예요.
A: 대신 속도를 확 끌어올렸어요. 초기 샘플보다 20% 빠르게요. B: 용량 줄이고 속도로 가는 거구나.
엔비디아 GPU 수백 개가 하나로 묶여 동시에 돌아가는 장면을 상상해봅시다. 그 안에서 메모리는 어떻게 움직여야 할까요. 더 많이 담는 것보다, 더 빠르게 전달하는 쪽이 나을 수도 있다는 판단 — 엔비디아가 그 방향으로 틀었습니다.
HBM, 고대역폭 메모리라고 불리는 이 칩은 지금까지 한 방향으로 진화해왔어요. 더 높이 쌓는 것. 4단에서 8단, 12단, 16단으로 올라가면서 용량을 늘렸죠. 그 과정에서 D램 다이를 종이처럼 얇게 깎고, 미크론 단위로 쌓아 올려야 했어요. 얼마나 정밀하게 쌓느냐가 곧 경쟁력이었습니다.
그런데 엔비디아가 들고 온 요구사항은 반대였어요. 더 높이 쌓지 말고, 8단으로 낮추되 속도를 높여달라는 겁니다. 삼성전자가 처음 내놓은 샘플은 초당 십사점사 기가비트였는데, 엔비디아가 제시한 목표는 십칠에서 십팔 기가비트 수준이에요. 스무 퍼센트 가까이 더 빠른 속도입니다.
왜 이런 선택을 했을까요. 층수를 낮추면 제조 부담이 줄어요. 수율도 올라가고, 같은 시간에 더 많이 만들 수 있게 됩니다. 메모리가 AI 칩의 병목이 되고 있는 상황에서, 고층 쌓기보다 빠른 공급이 먼저라는 판단이죠. 내년 출시 예정인 차세대 GPU '루빈 울트라'에는 GPU끼리 연결하는 통로가 기존보다 여덟 배 넓어집니다. 칩 하나에 메모리를 가득 채우는 대신, 빠른 칩 수백 개를 엮어 전체 성능을 끌어올리겠다는 구상입니다.
여기서 예상과 다른 지점이 하나 있어요. 이 경쟁에서 앞선 곳은 SK하이닉스였거든요. 고적층 HBM에서는 줄곧 선두였으니까요. 그런데 엔비디아가 속도와 공급 안정성 쪽으로 방향을 바꾸자 판세가 달라졌습니다. 삼성은 메모리 설계뿐 아니라 베이스다이라고 불리는 로직 반도체까지 직접 만들 수 있거든요. 엔비디아가 원하는 맞춤형 구조를 한 곳에서 모두 해결할 수 있다는 거예요. 업계에서는 삼성이 HBM 속도 경쟁에서 이미 업계 최고 수준을 입증했다는 평가가 나오고 있습니다.
저는 이 대목에서 좀 멈추게 됐어요. 기술 경쟁의 룰 자체가 바뀐 거잖아요. 누가 더 높이 쌓느냐가 아니라, 누가 더 빠르게 맞춰주느냐로요. 그 기준이 바뀌는 순간, 선두였던 곳이 뒤처지고 뒤에 있던 곳이 앞으로 나올 수 있어요. 이게 삼성만의 이야기가 아닌 이유입니다. AI 인프라 전체의 구조가 바뀌는 신호일 수 있으니까요.
한 가지만 남긴다면 — 쌓는 경쟁이 끝나고 잇는 경쟁이 시작됐다는 겁니다. 얼마나 담느냐가 아니라 얼마나 빠르게 연결하느냐. 그 방향이 AI 메모리 시장의 다음 판을 가를 것 같아요.
같은 뉴스, 네 가지 시선. AILENS였습니다.
0:00
영상은 아직 준비 중이에요. 아래는 영상에 들어갈 대본이에요.
[단독] 삼성, HBM4 이어 엔비디아 ‘NVHBM’ 선점
네 형식 모두 같은 기사를 바탕으로 만들었어요. 위에서 형식을 바꿔도 다루는 사실은 같습니다.
이 콘텐츠는 서울경제신문 원문 기사를 AI가 레터·웹툰·팟캐스트·영상 형식으로 재구성해 만들었습니다.
AI 생성 과정에서 표현이나 세부 내용이 원문과 다를 수 있어요. 투자 등 중요한 판단 전에는 원문을 확인해 주세요.