HBM만으론 부족하다고 했다. SK하이닉스가 꺼낸 다음 패는?

지금까지 AI 반도체 하면 HBM이 전부인 것처럼 얘기됐다. 엔비디아 GPU 옆에 붙어서 초고속으로 데이터를 뿜어내는 그 HBM 말이다. SK하이닉스가 HBM 시장을 사실상 장악하면서 주가도 폭등했다. 근데 SK하이닉스 스스로가 이제 "HBM만으론 부족하다"고 선언했다.

FMS 2026에서 꺼낸 차세대 전략

지난 8월 4일부터 6일까지 미국 캘리포니아 산타클라라에서 열린 'FMS 2026(Future of Memory and Storage)'에서 SK하이닉스가 차세대 AI 메모리 전략을 전면 공개했다. 핵심 키워드는 '계층형 메모리(Tiered Memory)'다.

쉽게 설명하면 이렇다. AI 모델이 점점 커지면서 HBM 하나로는 감당이 안 된다. 데이터 용량 자체가 HBM이 담을 수 있는 수준을 훌쩍 넘어버렸다. 그래서 HBM, DRAM, NAND, SSD, CXL을 유기적으로 연결해서 마치 하나의 거대한 메모리처럼 동작시키는 아키텍처를 제안한 거다.

CMM-Hybrid, 핵심 기술이 뭔가

이번 발표에서 가장 주목받은 건 'CMM-Hybrid'다. CXL 기반으로 DRAM과 SSD를 결합한 하이브리드 메모리 솔루션인데, AI 추론 과정에서 필요한 대용량 KV 캐시를 SSD에 저장하면서 필요한 데이터만 DRAM으로 미리 올리는 방식이다.

이렇게 하면 DRAM 사용량을 대폭 줄이면서도 성능은 유지할 수 있다. 실제로 SK하이닉스는 이 기술로 D램 사용량을 기존 대비 16분의 1 수준으로 줄일 수 있다고 밝혔다. AI 데이터센터 운영 비용 입장에서 보면 어마어마한 절감이다.

375층 낸드, 세계 최고를 또 깼다

낸드 분야에서도 깜짝 발표가 있었다. SK하이닉스가 375층 4D 낸드 웨이퍼를 공개했다. 낸드는 층수가 높을수록 같은 면적에 더 많은 데이터를 저장할 수 있다. 지금까지 경쟁사들이 300층대 초반을 놓고 경쟁하던 상황에서, SK하이닉스가 375층을 선보이면서 기술적 우위를 다시 한번 확인했다.

고용량 서버 DRAM도 공개

서버 DRAM 분야에서도 256GB DDR5 RDIMM과 128GB DDR5 MRDIMM을 선보였다. AI 학습과 추론에 쓰이는 서버는 엄청난 양의 메모리를 필요로 하는데, 단일 모듈에서 이 정도 용량을 지원하면 서버 슬롯 수를 줄이면서도 더 많은 메모리를 쓸 수 있다.

왜 이게 중요한가

AI 시대에 메모리는 단순한 저장 장치가 아니다. AI 모델의 성능과 비용을 직접적으로 결정하는 핵심 인프라다. HBM으로 시작한 AI 메모리 전쟁이 이제 계층형 메모리로 확장되고 있다는 건, SK하이닉스가 이 싸움에서 단순히 부품을 납품하는 게 아니라 AI 인프라 전체를 설계하는 수준으로 올라서려 한다는 신호다.

삼성전자도 같은 방향으로 가고 있다. HBM 시장에서 잠시 뒤처졌던 삼성이 차세대 AI 메모리 표준을 놓고 SK하이닉스와 다시 붙을 가능성이 높다. 이 경쟁이 치열해질수록, 한국 메모리 반도체 기업들이 글로벌 AI 인프라에서 차지하는 위치는 더 굳건해진다.

어떻게 생각하세요? 댓글로 남겨주세요! 👇

SK하이닉스의 계층형 메모리 전략, AI 시대 메모리 경쟁에서 게임 체인저가 될 수 있을까요? 여러분의 생각을 댓글로 알려주세요!