3편에서 HBM 제조의 핵심인 TSV(실리콘 관통전극)와 패키징 공정의 혁신을 살펴보았습니다. 이처럼 칩 속에 엘리베이터를 뚫고 겹겹이 쌓아 올리는 고난도의 공정은 수년에 걸친 실패와 개선을 반복하며 다듬어졌습니다. HBM은 2013년 처음 세상에 등장한 이후, AI 시장의 폭발적인 성장과 궤를 같이하며 진화해 왔는데요. 오늘은 최초의 1세대 HBM1부터 현재 시장의 주류가 된 HBM3E, 그리고 앞으로 반도체 패러다임을 통째로 바꿀 6세대 'HBM4'까지의 발전 과정을 단계별로 짚어보겠습니다.

1. 개척기와 과도기: HBM1에서 HBM2E까지의 발자취

처음 HBM 기술이 개발되었을 때만 해도 업계의 시선은 반신반의였습니다. 2013년 SK하이닉스가 AMD와 협력해 세계 최초로 개발한 1세대 'HBM1'은 당시로서는 혁신적인 대역폭을 보여주었지만, 제조 단가가 너무 비싸고 수율이 낮아 고성능 그래픽카드 등 극히 일부 한정된 영역에만 탑재되었습니다.

이후 2016년에 등장한 2세대 'HBM2'와 2020년의 개량형인 'HBM2E'를 거치며 데이터 전송 속도와 용량이 눈에 띄게 성장하기 시작했습니다. 대역폭이 초당 400GB(기가바이트)를 넘어서면서 대규모 연산이 필요한 고성능 컴퓨팅(HPC) 시스템과 초기 딥러닝 서버 기기들이 HBM의 가치를 알아보기 시작한 시점입니다.

내가 만약 당시 이 기술을 개발하던 엔지니어였다면, 엄청난 개발비를 들여 시장을 개척해 놓았는데도 "DDR 메모리로도 충분한데 왜 그렇게 비싼 돈을 쓰냐"는 시장의 냉소적인 반응에 꽤나 답답함을 느꼈을 것입니다. 하지만 이 과도기에 끈질기게 축적한 TSV 정밀도 향상과 범프 미세화 노하우는 머지않아 거대한 기회로 돌아오게 됩니다.

2. 생성형 AI가 쏘아 올린 전성기: HBM3와 HBM3E의 대폭발

HBM의 운명을 완전히 바꾼 변곡점은 2022년 말 생성형 AI(챗GPT 등)의 등장이었습니다. 인공지능 학습을 위해 대규모 데이터를 초고속으로 처리해야 하는 엔비디아의 핵심 GPU(H100 등)에 HBM이 독점 공급되면서 시장은 폭발적인 공급 부족 사태를 맞이합니다.

이 전성기를 이끈 주역이 바로 4세대 'HBM3'와 성능을 극대화한 5세대 'HBM3E'입니다. HBM3에 이르러 데이터 전송 속도는 초당 800GB를 돌파했고, 최신 HBM3E는 초당 1.2TB(테라바이트) 이상의 대역폭을 자랑합니다. 이는 1초 만에 풀HD급 영화 수백 편을 통째로 전송할 수 있는 무지막지한 속도입니다.

기존에는 D램을 4층이나 8층으로 쌓는 것이 한계였으나, HBM3E 세대에 이르러서는 칩의 두께를 극단적으로 얇게 깎아내어 물리적인 전체 높이를 유지하면서도 12층까지 안정적으로 쌓아 올리는 적층 기술의 정점을 보여주었습니다. 글로벌 빅테크 기업들이 줄을 서서 물량을 구하는 공급자 우위 시장이 바로 이 시기에 형성되었습니다.

3. 패러다임의 대전환: 6세대 HBM4가 가져올 미래

현재 반도체 업계의 시선은 이미 6세대 제품인 'HBM4'로 향하고 있습니다. HBM4는 단순히 속도가 빨라지는 것을 넘어, 반도체가 만들어지는 기본 판을 바꾸는 '패러다임의 시프트'를 예고하고 있습니다.

가장 큰 변화는 HBM 아파트의 지하 주차장이자 기초 공사에 해당하는 최하단 칩, 즉 '베이스 다이(Base Die)'의 제작 방식입니다. 5세대 HBM3E까지는 이 베이스 다이도 메모리 반도체 공정(D램 공정)으로 만들었습니다. 하지만 6세대 HBM4부터는 데이터 차선 수가 기존 1,024개에서 2,048개로 두 배 늘어남에 따라, 미세 회로를 훨씬 더 촘촘하게 그려 넣을 수 있는 '파운드리(시스템 반도체 위탁생산)의 초미세 공정'을 도입해야만 합니다.

이로 인해 메모리 반도체 기업이 혼자 제품을 뚝딱 만들던 시대가 끝나고, TSMC 같은 글로벌 파운드리 기업과의 긴밀한 협업이 필수적인 구조로 바뀌게 됩니다. 또한, 고객사(엔비디아, 구글 등)의 요청에 따라 연산 기능의 일부를 메모리 내부에 커스텀 방식으로 내장하는 '맞춤형 HBM'의 시대가 열리게 됩니다. 과거에 규격화된 범용 메모리를 찍어내던 방식에서 벗어나, 고도의 맞춤형 시스템 반도체 영역으로 HBM이 완벽하게 진입하는 신호탄이 바로 HBM4입니다.

[핵심 요약 3줄]

  • HBM은 2013년 최초 개발(HBM1) 이후 그래픽카드 등 한정된 영역에서 쓰이다가, 생성형 AI의 등장과 함께 HBM3 및 HBM3E 세대에서 폭발적인 전성기를 맞이했습니다.

  • 세대가 진화할 수 있도록 데이터 통로의 속도가 빨라졌을 뿐만 아니라, 칩의 두께를 미세하게 제어하여 8층에서 12층까지 쌓아 올리는 적층 기술이 고도화되었습니다.

  • 차세대 6세대 HBM4부터는 데이터 통로가 2,048비트로 두 배 늘어나며, 최하단 베이스 다이를 파운드리 초미세 공정으로 제작하는 구조적 대전환이 일어날 예정입니다.

[다음 편 예고]

HBM이 세대를 거듭하며 진화한 이유의 중심에는 글로벌 AI 시장을 독점하고 있는 엔비디아가 있습니다. 다음 편에서는 왜 엔비디아의 고성능 AI GPU에는 오직 HBM만 고집스럽게 쓰이는지, 두 장치 사이의 끈끈한 공생 관계와 연산 메커니즘을 파헤쳐 보겠습니다.