삼성이 해냈다. GPU 위에 메모리를 얹는다. HBM5의 8배라는 게 진짜인지 따져봤다

솔직히 처음 이 뉴스 봤을 때 "또 개념 발표 아냐?" 했다. 그런데 자료를 파면 팔수록 이건 진짜 판을 흔들 수 있는 기술이었다.

삼성전자가 지난 8월 5일 미국 캘리포니아 산타클라라에서 열린 FMS(Future of Memory and Storage) 2026 컨퍼런스에서 차세대 3D 메모리 아키텍처 zHBM을 공개했다. HBM5 대비 성능 8배, 메모리 밀도 10배, 에너지 효율 3배. 수치만 보면 SF 영화 대사 같다. 근데 이게 실제 기술이다.

zHBM이 뭔데 이렇게 난리야

지금까지 HBM은 AI 칩 옆에 놓여 있었다. GPU 한쪽에 메모리 스택을 배치하고, 인터포저라는 기판으로 연결하는 방식이다. 엔비디아 H100, GB200 다 이 구조다.

zHBM은 완전히 다른 방향을 택했다. 메모리를 GPU 위에 올린다. 수직으로 쌓는다. AI 칩 바로 위에 메모리가 앉는 구조라서 데이터가 이동하는 거리 자체가 극적으로 줄어든다. 데이터가 짧게 이동하면 속도가 빠르고, 전력도 덜 먹는다. 이게 핵심 원리다.

• 대역폭(속도): HBM5 대비 8배
• 메모리 밀도: HBM5 대비 10배
• 에너지 효율: 3배 향상
• 열 저항: 50% 이상 감소

왜 지금 이게 중요한가

AI 모델은 계속 커지고 있다. GPT-4, 클로드, 제미나이 같은 초대형 언어 모델을 학습시키거나 추론할 때 가장 큰 병목이 바로 메모리 대역폭이다. 아무리 GPU 연산 성능이 높아도, 데이터를 빠르게 공급하지 못하면 결국 GPU가 기다리게 된다.

현재 HBM5 기준으로도 이미 한계가 보이기 시작하는데, zHBM은 그 한계를 원천적으로 다른 방식으로 뚫어버리는 발상이다. 메모리를 옆에 두지 말고, 위에 올리면 된다. 이렇게 단순한 아이디어인데 실제 구현이 극히 어려워서 아무도 못 했던 거다.

근데 진짜 나오기는 하나

여기서 현실적인 이야기를 해야 한다. 현재 zHBM은 컨셉 모델이다. 양산 일정도 없고, 엔비디아나 AMD와의 호환성도 확인되지 않았다.

삼성이 FMS에서 발표한 건 "우리가 이 방향으로 가겠다"는 선언에 가깝다. 실제 제품이 되려면 웨이퍼 본딩 기술의 수율, 발열 문제 해결, AI 칩 설계사들과의 협업이 필요하다. 쉽지 않다.

그래도 중요한 이유가 있다. 삼성이 이 기술을 공개적으로 발표했다는 건 이미 상당한 수준의 연구가 진행됐다는 뜻이다. SK하이닉스가 HBM 시장을 거의 독점하다시피 하는 상황에서, 삼성이 아예 다른 게임을 제안하는 것이기도 하다.

삼성한테 이게 왜 필요한가

솔직히 말하면 삼성은 지금 HBM 시장에서 꽤 힘들다. HBM3E 수율 문제로 엔비디아 공급이 늦어졌고, SK하이닉스가 선점한 자리를 뺏어오는 게 쉽지 않다. 사방이 압박이다.

이런 상황에서 zHBM은 기존 경쟁판을 뒤집을 수 있는 카드다. HBM5에서 잘 해봐야 2등인데, 아예 새로운 판을 만들면 1등부터 시작할 수 있다. 삼성의 이번 발표를 이런 맥락에서 읽어야 한다.

정리하자면

zHBM은 지금 당장의 제품이 아니다. 그러나 AI 메모리 기술이 나아갈 방향을 보여주는 중요한 이정표다. 삼성이 HBM 경쟁에서 단순히 따라가는 게 아니라 새로운 판을 짜겠다는 의지를 보인 것이고, 그 발상 자체는 기술적으로 충분히 타당하다. 앞으로 3~5년이 진짜 관건이다.

어떻게 생각하세요? 댓글로 남겨주세요! 👇

zHBM이 실제 제품으로 나올 수 있을 거라고 생각하시나요? 삼성이 이 기술로 SK하이닉스를 넘을 수 있을까요?