AI 반도체 경쟁을 이야기할 때 최근 몇 년간 가장 많이 등장한 단어는 단연 HBM이었다.
엔비디아와 AMD의 AI 가속기가 더 빨라질수록 GPU 옆에서 데이터를 빠르게 공급하는 고대역폭메모리, 즉 HBM의 중요성이 커졌기 때문이다.
그런데 AI 인프라가 ‘모델 학습’에서 ‘실시간 추론’으로 빠르게 확산하면서 또 하나의 병목이 커지고 있다.
바로 데이터를 저장하고 꺼내는 스토리지다.
삼성전자가 2026년 8월 미국에서 공개한 V10 Bonding V-NAND(BV-NAND)를 단순한 차세대 낸드플래시 제품으로만 보기 어려운 이유가 여기에 있다.
삼성전자는 미국 캘리포니아에서 열린 Future of Memory and Storage 행사에서 400단이 넘는 V10 BV-NAND 프로토타입을 공개했다. 새로운 웨이퍼 본딩 구조를 적용해 이전 V9 제품 대비 메모리 밀도를 약 58% 높였다는 설명이다.
중요한 질문은 하나다.
왜 AI 시대에 다시 NAND인가?
AI 서버는 GPU만 빨라져서는 충분하지 않다
AI 시스템의 데이터 흐름을 단순하게 나누면 크게 세 단계로 볼 수 있다.
저장장치에서 데이터를 가져오고, 메모리에서 빠르게 전달하고, GPU나 AI 가속기에서 연산한다.
HBM은 마지막 두 단계 사이의 병목을 크게 줄였다.
하지만 AI가 처리하는 데이터 자체가 폭발적으로 늘어나면서 이제는 SSD와 NAND에서 필요한 데이터를 얼마나 빠르고 효율적으로 공급하느냐도 전체 성능을 결정하기 시작했다.
특히 생성형 AI가 질문에 답하는 추론 단계에서는 수많은 사용자의 요청이 동시에 발생한다.
모델 파라미터뿐 아니라 캐시, 사용자 데이터, 벡터 데이터베이스, 멀티모달 데이터까지 읽고 써야 한다. 이런 환경에서는 모든 데이터를 비싼 HBM이나 DRAM에만 올려놓을 수 없다.
결국 데이터센터는 HBM·DRAM·NAND를 계층적으로 조합하게 된다.
삼성전자도 이미 이 방향으로 움직이고 있다.
삼성은 지난 7월 차세대 AI·HPC 서버용 PCIe 6.0 기반 PM1763 기업용 SSD 양산을 발표했다. 이 제품에는 9세대 V-NAND와 4나노 컨트롤러가 적용됐다. 삼성은 AI 모델의 규모와 복잡성이 커질수록 고성능 기업용 SSD가 중요해지고 있다고 설명했다.
즉 이번 V10 BV-NAND는 독립된 기술 발표라기보다, AI 서버의 저장계층 자체를 끌어올리려는 전략의 연장선으로 보는 편이 더 정확하다.
400단을 넘는 것보다 중요한 것은 ‘어떻게 쌓느냐’다
낸드플래시는 수직으로 셀을 쌓아 용량을 늘려왔다.
아파트를 높게 지을수록 같은 땅에 더 많은 가구를 넣을 수 있는 것과 비슷하다.
그러나 층수가 계속 증가하면 문제가 복잡해진다.
공정 난도가 올라가고, 적층 구조가 길어지면서 신호 전달과 생산성, 수율, 전력 효율까지 함께 관리해야 한다.
그래서 차세대 NAND 경쟁은 단순히 ‘몇 단이냐’만으로 평가하기 어려워지고 있다.
삼성이 이번 V10에 강조한 것이 Bonding V-NAND라는 점을 볼 필요가 있다.
회로 영역과 메모리 셀 영역을 각각 만든 뒤 결합하는 웨이퍼 본딩 구조는 제한된 면적을 보다 효율적으로 활용할 수 있다. 삼성에 따르면 V10 BV-NAND는 400단 이상의 구조와 함께 V9 대비 약 58% 높은 저장 밀도를 목표로 한다.
결국 경쟁의 핵심은 높이가 아니라 한 웨이퍼에서 얼마나 많은 비트를 경제적으로 생산하고, 얼마나 빠르게 읽고 쓰면서 전력을 줄일 수 있느냐로 이동하고 있다.
NAND의 경제성이 중요한 이유
AI 데이터센터에는 한 가지 현실적인 제약이 있다.
전력이다.
데이터센터 사업자 입장에서는 GPU를 더 많이 설치한다고 끝나지 않는다. 메모리와 SSD, 네트워크, 냉각 시스템까지 모두 전력을 소비한다.
같은 용량을 더 작은 공간에 넣고, 필요한 데이터를 더 적은 전력으로 공급할 수 있다면 서버 한 대의 성능보다 데이터센터 전체의 효율이 개선될 수 있다.
삼성의 기술 방향 역시 여기에 맞춰져 있다.
삼성은 앞서 AI 인프라가 고성능뿐 아니라 고용량, 발열 관리, 보안까지 동시에 요구한다고 설명했고, PCIe 6.0 SSD와 차세대 NAND를 AI 메모리 계층의 일부로 제시해 왔다.
HBM 호황이 끝난다는 뜻은 아니다
여기서 한 가지 오해는 피해야 한다.
NAND의 중요성이 커진다고 해서 HBM의 중요성이 줄어드는 것은 아니다.
두 메모리의 역할이 다르기 때문이다.
HBM은 AI 가속기에 연산 데이터를 초고속으로 공급한다.
NAND는 훨씬 많은 데이터를 상대적으로 저렴한 비용으로 저장한다.
AI 서버가 커질수록 오히려 두 시장이 함께 성장할 가능성이 있다.
GPU 성능이 향상되면 더 큰 모델과 더 많은 데이터를 처리할 수 있고, 이는 다시 더 많은 DRAM과 NAND 저장공간을 요구한다.
삼성 역시 HBM4를 이미 양산·출하하고 있으며, HBM4E 샘플과 PCIe 6.0 SSD 등으로 AI 메모리 포트폴리오를 동시에 확대하고 있다. 삼성 HBM4는 1c DRAM과 4나노 베이스다이를 사용하며 최대 13Gbps까지 확장 가능한 구조로 발표됐다.
이 점에서 삼성의 전략은 ‘HBM 또는 NAND’가 아니다.
HBM + DRAM + SSD + NAND를 하나의 AI 메모리 시스템으로 묶는 것에 가깝다.
더 흥미로운 것은 zHBM과 zNAND다
이번 발표에서 눈에 띈 것은 V10만이 아니다.
삼성은 차세대 메모리 구조인 zHBM과 zNAND-O의 개념도 함께 제시했다.
현재 대부분의 HBM은 AI 프로세서 옆에 배치된다.
하지만 삼성의 zHBM 구상은 메모리를 AI 가속기 위쪽에 수직으로 적층해 데이터가 움직이는 거리를 줄이는 방향이다.
삼성은 이러한 웨이퍼 본딩 기반 구조가 기존 방식보다 메모리 밀도와 에너지 효율을 크게 높일 수 있다는 기술적 목표를 제시하고 있다. 다만 zHBM과 zNAND-O는 현재 상용 제품이 아니라 차세대 아키텍처 개념 단계라는 점은 구분할 필요가 있다.
이 기술이 현실화된다면 메모리 산업의 경쟁 방식도 달라진다.
과거에는 D램을 얼마나 미세하게 만들고 NAND를 얼마나 높게 쌓느냐가 핵심이었다.
앞으로는 여기에 로직 반도체와 메모리를 어떻게 연결하고 패키징하느냐가 더해질 가능성이 크다.
메모리와 파운드리, 첨단 패키징을 동시에 보유한 삼성전자가 이 영역을 강조하는 이유도 여기에서 찾을 수 있다.
삼성에 기회인 동시에 어려운 게임인 이유
삼성에는 분명 유리한 부분이 있다.
메모리 반도체뿐 아니라 파운드리와 첨단 패키징까지 내부에 보유하고 있기 때문이다.
AI 반도체가 점차 맞춤형 설계와 3차원 적층 구조로 이동한다면 이런 사업 구조가 장점으로 작용할 수 있다.
실제로 삼성은 최근 엔비디아뿐 아니라 AMD, 브로드컴 등과 AI 메모리·파운드리 협력을 확대하고 있다. AMD와는 HBM4 및 차세대 메모리 협력을 발표했고, 브로드컴과는 메모리·파운드리·첨단 패키징을 포괄하는 협력 MOU를 체결했다.
다만 기술 발표가 곧 시장 지배력으로 연결되는 것은 아니다.
고객 인증, 수율, 원가, 대규모 양산 능력, 장기간의 신뢰성 검증까지 넘어야 한다.
특히 데이터센터 사업자는 단순한 최고 성능보다 실제 서버 환경에서의 안정성과 총소유비용을 중요하게 본다.
따라서 V10 BV-NAND의 진짜 경쟁력은 ‘400단 이상’이라는 숫자보다 향후 수율과 원가, SSD 제품화, 고객 채택 속도에서 확인될 것이다.
Keconowise View | AI 반도체의 다음 전쟁은 ‘메모리 계층 전체’다
HBM이 AI 시대의 대표 메모리로 떠오르면서 시장의 관심도 HBM에 지나치게 집중돼 있었다.
하지만 AI 인프라를 하나의 시스템으로 보면 GPU 바로 옆의 HBM만 빨라져서는 전체 성능을 계속 높이기 어렵다.
GPU가 빨라질수록 더 많은 데이터를 저장해야 하고, 더 자주 불러와야 하며, 전력과 냉각 비용까지 관리해야 한다.
그래서 앞으로의 메모리 경쟁은 HBM 한 종류의 승부가 아니라 HBM → DRAM → CXL 메모리 → SSD → NAND로 이어지는 전체 데이터 계층의 효율 경쟁이 될 가능성이 크다.
삼성의 V10 BV-NAND 발표에서 가장 주목할 부분도 ‘400단’이라는 숫자 자체가 아니다.
AI 시대의 병목이 연산에서 메모리로, 다시 메모리에서 스토리지로 이동하기 시작했다는 신호라는 점이다.
HBM4가 2026년 AI 반도체 시장의 현재라면, BV-NAND와 zHBM·zNAND는 그 다음 단계의 경쟁이 어디에서 벌어질지를 보여주는 기술 지도에 가깝다.
아직 상용화 속도와 시장 규모를 단정하기에는 이르다.
다만 AI 인프라 경쟁을 이해하려면 이제 GPU와 HBM뿐 아니라 ‘데이터가 어디에 저장되고, 어떤 경로를 거쳐 연산장치까지 이동하는가’를 함께 볼 필요가 있다.
그 지점에서 NAND는 다시 중요한 전략 반도체가 되고 있다.