HBM의 다음 10년 — 표준 메모리의 분화와 커스텀 HBM

목차

• 1. 표준 부품이던 HBM
• 2. base die — 커스텀이 시작되는 층
• 3. 왜 NVIDIA·구글은 커스텀 base die를 원하나
• 4. 시장이 둘로 갈린다 — 표준 티어와 프리미엄 티어
• 5. 메모리 회사가 파운드리·디자인하우스가 된다
• 6. 언제 — HBM4E(2026)에서 HBM5(2028)로
• 7. 한국에 걸린 것
• 닫으며 — 7편의 결론
• 8. 자주 묻는 질문 (FAQ)
• 9. 시리즈 안내

1. 표준 부품이던 HBM

지금까지 HBM은 JEDEC 표준에 맞춘 규격 부품이었습니다. NVIDIA가 사든 구글이 사든 AMD가 사든, 같은 물건이었죠. 메모리 회사는 정해진 규격대로 더 높은 수율로, 더 빨리, 더 싸게 쌓아 파는 게 일이었습니다. 30년 DRAM 노하우가 해자였던 이유가 여기 있습니다.

그런데 HBM4E를 기점으로 이 전제가 깨집니다. HBM이 "누구에게나 같은 부품"이기를 멈추고 "고객마다 다른 부품"으로 갈라지기 시작하죠. 그리고 그 갈라짐이 시작되는 자리가 base die입니다.

2. base die — 커스텀이 시작되는 층

HBM은 DRAM 다이를 여러 장 수직으로 쌓고, 맨 아래에 base die라는 한 층을 깝니다. 지금까지 이 base die는 위층 DRAM과 외부를 잇는 단순 배선층에 가까웠습니다. 그런데 HBM4·HBM4E부터 이 층이 바뀝니다.

• base die에 고객 맞춤 캐시·맞춤 인터페이스·맞춤 로직 블록을 넣을 수 있게 됐습니다.
• 그 base die를 TSMC 3nm·삼성 2nm 같은 첨단 로직 공정으로 찍습니다. 단순 배선층이 아니라 진짜 로직 칩이 된 거죠.

여기서 "분화"의 정확한 뜻이 나옵니다. 위에 쌓인 DRAM 셀은 여전히 표준 양산품입니다. 커스텀되는 건 맨 아래 base die, 즉 로직층뿐이죠. 그래서 이 변화는 "표준 메모리의 종말"이 아닙니다. 표준 셀 위에 고객 맞춤 로직층이 붙는 것 — 메모리는 표준으로 남고 그 아래 로직이 갈라지는, 말 그대로 분화입니다.

3. 왜 NVIDIA·구글은 커스텀 base die를 원하나

표준 HBM은 범용입니다. 어느 가속기에 붙여도 무난하게 작동하도록 설계됐죠. 문제는 그 "무난함"이 곧 손해라는 점입니다.

NVIDIA·구글·브로드컴은 자사 가속기를 누구보다 잘 압니다. 어떤 연산이 메모리를 어떻게 때리는지, 캐시가 얼마나 필요한지, 전력을 어디서 아껴야 하는지를요. 그 정보를 base die 설계에 직접 넣으면 이런 게 가능해집니다.

• 자사 워크로드에 맞춘 캐시·버퍼 구조로 실효 대역폭을 끌어올립니다.
• 인터페이스를 자사 SoC에 맞춰 데이터 경로의 지연과 전력을 줄입니다.
• 범용 설계라면 버려졌을 성능·전력 마진을 회수합니다.

즉 커스텀 base die는 메모리를 "가속기 옆에 붙는 부품"에서 "가속기의 일부로 함께 설계되는 요소"로 끌어올립니다. 메모리와 로직을 한 팀이 같이 설계하는 co-design이죠. 빅테크가 자체 칩에 수십억 달러를 쓰는 시대에, 메모리만 범용으로 남겨둘 이유가 없습니다. 그래서 HBM4E의 진짜 변곡점은 속도(3.6TB/s)가 아니라, base die를 고객이 설계할 수 있게 된 것입니다.

4. 시장이 둘로 갈린다 — 표준 티어와 프리미엄 티어

커스텀 base die는 모두를 위한 게 아닙니다. 자사 SoC를 깊이 알고, 커스텀 비용을 감당할 만큼 물량이 큰 최상위 고객만 갑니다. 그래서 HBM 시장이 둘로 갈립니다.

이게 "종말"이 아니라 "분화"인 이유입니다. 표준 HBM이 사라지는 게 아니라, 그 위에 갈아타기 힘든 프리미엄 층이 새로 생기는 거죠. 다음 10년 물량의 대부분은 여전히 표준이겠지만, 부가가치와 경쟁의 무게중심은 프리미엄 티어로 옮겨갑니다.

5. 메모리 회사가 파운드리·디자인하우스가 된다

프리미엄 티어로 가려면 메모리 회사가 하던 일 자체가 바뀝니다. 규격대로 잘 쌓는 것만으로는 부족하고, 고객·파운드리와 base die를 함께 설계해야 하죠. DRAM 회사가 로직 설계와 파운드리 협업의 영역으로 들어가는 겁니다.

경쟁의 축도 따라 이동합니다. 30년 DRAM 수율 노하우라는 과거의 해자에서, base die 로직을 누가 더 잘 설계하느냐로요. 2편·3편에서 "메모리와 로직의 경계 붕괴"라고 불렀던 흐름의 종착점이 바로 여기입니다.

• 삼성 — 파운드리·메모리 수직계열이 무기. base die를 자체 4nm으로 찍고, 2026년 5월 업계 최초로 HBM4E 샘플(3.6TB/s/스택)을 냈습니다.
• SK하이닉스 — 자체 파운드리가 없어 TSMC 3nm와 손잡는 구조. HBM4E 양산은 2027년 목표로, 공정 우위로 역전을 노립니다.
• 마이크론 — 효율·전력 각도로 틈새를 봅니다.

핵심은 승자 예측이 아닙니다. 경쟁이 "메모리 회사들의 수율 게임"에서 "로직 설계 + 파운드리 + 패키징의 통합 게임"으로 바뀌었다는 것이죠. 표준 부품 시절의 가격 경쟁 논리가 통하지 않는 시장으로 이동합니다.

6. 언제 — HBM4E(2026)에서 HBM5(2028)로

커스텀 base die는 HBM4E에서 시작해 HBM5에서 본격화됩니다. 스택을 더 높이 쌓으려면(16-Hi → 그 이상) 본딩 기술도 바뀌어야 하는데(4편 상세), 흔히 말하는 "2027년 하이브리드 본딩 전면 전환"은 사실과 다릅니다.

• SK하이닉스는 2026년 4월 12-Hi 하이브리드 본딩 검증을 마치고 첫 양산용 인라인 장비를 발주(약 200억 원)했습니다.
• 그러나 HBM4/HBM4E 16-Hi 주력은 여전히 MR-MUF입니다. 하이브리드 본딩은 비용·성능상 아직 일러서 차세대용으로 병행하는 two-track 전략이죠.
• 본격 주류화는 HBM5 세대(2028), wafer-to-wafer 본딩이 표준이 되는 시점입니다.

HBM5의 윤곽도 이미 드러났습니다. 삼성이 Computex 2026에서 첫 목업을 공개했죠. 4,096-bit 인터페이스, 약 4TB/s/스택, 약 100W/스택, base die는 자체 2nm(HBM4·HBM4E의 4nm에서 미세화), 그리고 스택 내부 열을 칩 밖으로 직접 빼내는 Heat Path Block 냉각 구조가 SK의 자체 냉각(iHBM)과 맞붙습니다.

여기서 다음 전장이 보입니다. 대역폭 경쟁은 점점 열·전력 경쟁으로 옮겨갑니다. 100W/스택 × 다수 스택 = 6편에서 본 랙 전력 폭증(130→600kW)의 메모리 쪽 원인입니다. 더 쌓을수록 더 뜨겁고, 식히는 자가 이깁니다.

7. 한국에 걸린 것

이 분화는 한국 메모리에 양날입니다. HBM이 로직 + 패키징 + 열로 확장되면 가치사슬도 넓어지는데, 한국은 그 새 가치사슬의 절반만 쥐고 있거든요.

메모리 셀은 세계 1위지만, 분화가 깊어지며 부가가치가 base die 로직과 본딩·열로 옮겨갈수록 이 빈칸을 누가 메우느냐가 한국 HBM 생태계의 생사를 가릅니다.

닫으며 — 7편의 결론

HBM 시리즈 7편은 한 부품을 공정에서 미래까지 따라온 여정이었습니다. 진입 장벽에서 시작해 세대 전환·통합·본딩·사이클·병목을 지나, 마지막으로 그 부품이 표준에서 갈라져 나오는 자리까지 왔습니다. HBM을 안다는 것은 결국 메모리를 아는 게 아니라, AI 시대 반도체의 무게중심이 어디로 기우는지를 아는 것입니다 — 셀에서 로직으로, 부품에서 시스템으로, 표준에서 맞춤으로. 그게 이 시리즈의 결론입니다.

HBM 7편을 관통한 하나의 thesis:

1. 메모리·로직·패키징의 경계가 무너진다 — HBM은 그 붕괴의 최전선이고, 커스텀 HBM이 종착점.
2. 병목은 사라지지 않고 이동한다 — 셀 → 본딩 → 시스템 → 열. 푸는 자가 다음 사이클의 승자.
3. HBM은 AI 인프라의 심장이자 한국의 전략 자산 — 기술·시장·정책이 한 점에서 만난다.

9. HBM 시리즈 안내