HBM 경쟁이 이제 메모리를 얼마나 빠르게 만들 수 있느냐에서 얼마나 촘촘하고 높게 쌓을 수 있느냐의 문제로 이동하고 있습니다.
HBM은 여러 개의 D램을 수직으로 쌓아 데이터가 이동하는 통로를 넓힌 메모리입니다. 문제는 AI 가속기가 요구하는 메모리 용량과 대역폭이 계속 증가하면서 HBM에 더 많은 D램을 쌓아야 한다는 점입니다.
HBM3E에서 HBM4로 넘어가면 변화는 더욱 커집니다.
SK하이닉스 뉴스룸에 2026년 8월 25일 게재된 인하대 제조혁신전문대학원 주승환 교수의 기술 노트에 따르면, HBM4에서는 입출력(I/O) 수가 기존 HBM3E의 1,024개에서 2,048개로 두 배 늘어날 것으로 예상됩니다. 적층 수도 앞으로 16~20층 이상으로 증가할 것으로 전망됩니다.
하지만 여기에는 물리적인 문제가 있습니다.
HBM을 계속 높이 쌓으면서 연결부는 더 촘촘하게 만들고, 동시에 발생하는 열까지 처리하려면 기존 마이크로범프 방식으로 언제까지 버틸 수 있을까요.
그 질문에서 등장하는 기술이 바로 하이브리드 본딩(Hybrid Bonding)입니다.
HBM4에서 패키지 높이가 720㎛에서 775㎛로 늘어나는 이유
HBM은 D램을 위로 쌓는다고 해서 패키지 전체를 마음대로 두껍게 만들 수 있는 구조가 아닙니다.
AI GPU와 HBM은 하나의 패키지 안에 함께 구성되기 때문에 정해진 패키지 규격 안에서 더 많은 D램을 적층해야 합니다.
기술 노트에 따르면 HBM4부터 패키지 높이 규격은 기존 720㎛에서 775㎛로 증가합니다.
HBM4까지는 기존 패키징 기술을 활용할 수 있지만, HBM4E 이후에는 D램 사이 간격을 더 줄이고 방열 성능을 개선해야 하면서 구조적인 한계가 나타날 가능성이 높다고 설명합니다.
쉽게 말하면 HBM4에서는 일단 쌓을 수 있는 높이를 조금 더 확보한 셈입니다.
하지만 이것만으로 문제가 끝나지는 않습니다.
HBM의 적층 수가 16층, 20층 이상으로 증가하면 각 D램 사이에 들어가는 연결 구조 자체의 두께도 중요해지기 때문입니다.
그래서 차세대 HBM 경쟁에서는 D램 자체만큼이나 D램과 D램을 어떻게 연결하느냐가 중요해지고 있습니다.
100㎛에서 1㎛ 미만으로, 무엇이 달라지는가
현재 반도체 패키징에서는 칩과 칩 사이에 작은 금속 돌기인 ‘범프’를 만들어 전기적으로 연결하는 방식이 널리 사용됩니다.
그런데 연결해야 할 신호가 많아질수록 범프 사이의 간격, 즉 피치(pitch)를 줄여야 합니다.
주승환 교수의 기술 노트에 제시된 수치를 보면 변화의 크기를 쉽게 이해할 수 있습니다.
기존 솔더 범프의 피치는 약 100㎛, 마이크로범프는 약 20㎛입니다.
반면 Cu-Cu 하이브리드 본딩은 1㎛ 미만까지 피치를 줄일 수 있습니다.
단순히 숫자가 작아지는 것만 의미하지 않습니다.
연결 간격이 좁아지면 같은 면적에 더 많은 I/O를 배치할 수 있고, 칩 사이에서 신호가 이동해야 하는 거리도 짧아집니다.
결과적으로 데이터 전송 속도와 전력 효율, 집적도를 높이는 데 유리해집니다.
HBM4에서 I/O가 1,024개에서 2,048개로 두 배 증가하는 상황에서 연결 밀도를 높이는 기술이 함께 발전해야 하는 이유입니다.
하이브리드 본딩은 무엇이 다른가
기존 HBM에서는 마이크로범프를 이용해 D램을 연결합니다.
SK하이닉스가 HBM에 활용해온 MR-MUF(Mass Reflow Molded Underfill) 역시 기본적으로 D램을 마이크로범프로 연결해 적층한 뒤, 칩 사이 공간을 언더필 재료로 채우는 방식입니다.
하이브리드 본딩은 이 구조를 바꿉니다.
범프를 없애고 구리와 구리를 직접 연결합니다.
기술 노트에서는 TSV 내부의 구리를 직접 Cu-Cu 방식으로 연결함으로써 마이크로범프와 언더필이 차지하던 공간을 줄일 수 있다고 설명합니다.
그만큼 D램 사이 간격을 좁힐 수 있고, 범프에서 발생하는 전기적 저항도 줄일 수 있습니다.
여기에는 또 다른 제약도 있습니다.
현재 TCB(Thermo-Compression Bonding) 방식은 소재 간 열팽창계수(CTE) 차이로 변형과 응력이 발생해 약 7㎛ 이하 피치에는 적합하지 않다고 기술 노트는 설명합니다.
열 문제도 있습니다.
16~20층 수준으로 적층이 늘어나면 열 축적이 또 하나의 과제가 됩니다.
결국 HBM 적층 경쟁은 단순한 ‘높이 경쟁’이 아닙니다.
더 높게 쌓으면서도 더 촘촘하게 연결하고, 발생하는 열은 더 효과적으로 빼내야 하는 세 가지 문제를 동시에 해결해야 합니다.
속도 11.9배·방열 100배, 숫자는 어떻게 봐야 할까
기술 노트에는 눈에 띄는 성능 수치도 등장합니다.
주승환 교수의 기술 노트에 따르면 기존 TCB 기술과 비교해 하이브리드 본딩은 속도 약 11.9배, 방열 성능 100배 이상, 집적 밀도 15배의 개선 효과가 있다고 설명합니다.
다만 이 숫자는 주의해서 볼 필요가 있습니다.
해당 기술 노트에서 제시한 수치이므로 모든 HBM 제품에 그대로 적용되는 실제 제품 성능이라고 해석해서는 안 됩니다. 적용 구조와 공정에 따라 결과가 달라질 수 있기 때문입니다.
중요한 것은 숫자 자체보다 방향입니다.
범프를 없애고 칩 사이의 연결 거리를 줄이는 것이 대역폭·전력·열·적층 높이를 동시에 개선할 수 있는 방법이라는 점입니다.
이 때문에 하이브리드 본딩은 HBM뿐 아니라 고성능 로직 반도체와 3D 패키징에서도 중요성이 커지고 있습니다.
그렇다면 HBM4부터 바로 바뀌는 것일까
여기서는 구분이 필요합니다.
HBM4부터 모든 제품이 하이브리드 본딩으로 바뀐다고 보는 것은 정확하지 않습니다.
기술 노트는 HBM4까지 기존 패키징 방식이 여전히 유효할 것으로 보고 있습니다.
다만 HBM4E 이후부터는 D램 간격과 열 관리 문제가 커지면서 기존 방식의 구조적 한계가 나타날 가능성이 높다고 설명합니다.
또 적층이 20층을 넘어갈 것으로 전망되는 HBM4E 또는 HBM5가 하이브리드 본딩의 본격적인 적용 시점으로 유력하다고 보고 있습니다.
즉 변화는 한 번에 일어나는 것이 아니라 기존 TCB 기술을 최대한 개선하면서 점진적으로 진행될 가능성이 높습니다.
하이브리드 본딩이 기술적으로 우수하다고 해서 당장 기존 방식을 모두 대체할 수 있는 것도 아닙니다.
그 이유 중 하나가 비용입니다.
성능이 좋아도 비용이 2~3배라면
기술 노트에 따르면 하이브리드 본딩의 제조 비용은 기존 플립칩 패키징보다 2~3배 높은 수준으로 평가됩니다.
여기에 공정 성숙도와 장비 문제도 있습니다.
두 칩의 구리 접점을 직접 붙이려면 극도로 정밀한 정렬이 필요합니다.
미세 피치로 갈수록 아주 작은 정렬 오차도 수율 문제로 이어질 수 있습니다.
이 지점부터 HBM 경쟁의 범위가 다시 넓어집니다.
삼성전자·SK하이닉스·마이크론이 어떤 HBM을 개발하는지만 보는 것으로는 충분하지 않습니다.
누가 하이브리드 본딩에 필요한 정밀 장비와 세정·검사·접합 공정을 안정적으로 확보하느냐도 중요해질 수 있기 때문입니다.
주승환 교수는 기술 노트에서 해외 업체들은 관련 장비 개발을 마치고 생산 적용을 시작한 반면 국내에서는 개발이 진행 중이라고 설명했습니다.
또 자신이 이끄는 연구팀의 장비 정밀도는 현재 약 100nm 수준이며 앞으로 50nm와 25nm 수준을 목표로 연구하고 있다고 밝혔습니다.
다만 이 부분은 외부 전문가가 자신의 연구 현황과 함께 제시한 평가라는 점을 감안할 필요가 있습니다.
이를 곧바로 국내 전체 장비 산업의 경쟁력이 뒤처졌다는 의미로 확대해서 해석하기보다는, 하이브리드 본딩이 장비 정밀도까지 요구하는 새로운 기술 경쟁을 만들고 있다는 사례로 보는 것이 적절합니다.
CPO에도 하이브리드 본딩이 등장하는 이유
흥미로운 점은 하이브리드 본딩의 적용 영역이 HBM에만 머물지 않는다는 것입니다.
기술 노트는 최근 AI 데이터센터용 네트워크 스위치의 CPO(Co-Packaged Optics)에도 하이브리드 본딩이 적용되고 있으며, NVIDIA와 Broadcom 제품을 사례로 들고 있습니다.
케코노와이즈에서는 앞서 GPU와 GPU, 서버와 서버 사이의 데이터 이동량이 폭증하면서 CPO가 주목받는 이유를 살펴봤습니다.
관련 글: CPO란? HBM 다음 병목과 AI 반도체가 빛으로 연결되는 이유
HBM과 CPO는 전혀 다른 기술처럼 보이지만 공통점이 있습니다.
AI 시스템에서 처리해야 할 데이터가 늘어나면서 칩 사이의 연결 거리를 줄이고 더 많은 신호를 좁은 공간에서 처리해야 한다는 것입니다.
그래서 하이브리드 본딩은 단순한 메모리 적층 기술이 아니라 AI 반도체 패키징 전반으로 확장될 가능성이 있는 기술로 평가받고 있습니다.
Keconowise View
HBM 경쟁은 지금까지 삼성전자·SK하이닉스·마이크론이 누가 더 빠르고 용량이 큰 제품을 만드느냐의 경쟁으로 보이는 경우가 많았습니다.
하지만 적층 수가 16층, 20층 이상으로 올라가기 시작하면 경쟁의 성격도 달라질 수 있습니다.
D램을 잘 만드는 것만으로는 충분하지 않습니다.
수십 개의 다이를 얼마나 얇고 정확하게 연결하고, 그 과정에서 수율과 열 문제를 얼마나 안정적으로 해결할 수 있느냐가 제품 경쟁력을 좌우할 수 있기 때문입니다.
하이브리드 본딩이 중요한 이유도 여기에 있습니다.
범프를 없애면 연결 피치를 1㎛ 미만까지 줄일 수 있지만, 그만큼 훨씬 높은 공정 정밀도가 요구됩니다.
성능을 높일 수 있는 대신 제조 비용은 아직 높고, 장비와 공정의 성숙도도 함께 따라와야 합니다.
따라서 차세대 HBM 경쟁에서 주목해야 할 기업의 범위도 넓어질 가능성이 있습니다.
메모리 제조사뿐 아니라 본딩 장비, 검사, 세정, 패키징 소재와 공정 기술을 공급하는 기업들까지 하나의 생태계로 연결될 수 있습니다.
AI 반도체 경쟁에서 중요한 것은 더 이상 트랜지스터를 얼마나 작게 만드는지만이 아닙니다.
만들어진 칩을 얼마나 촘촘하고 정확하게 연결할 수 있는가.
HBM4E와 HBM5로 갈수록 이 질문의 중요성은 더 커질 가능성이 있습니다.
그리고 하이브리드 본딩은 그 변화가 어디에서 시작되고 있는지를 보여주는 기술 가운데 하나입니다.