[빅데이터뉴스 김다경 기자] “낸드를 사용한 HBF가 병목을 해결할 수 있는 솔루션이 될 것이다.”

안현 SK하이닉스 사장(CDO·최고개발책임자)은 14일 서울 코엑스에서 열린 반도체대전(SEDEX) 2026 기조강연 ‘AI 시대, 메모리 혁신의 방향을 묻다’에서 인공지능(AI) 시대 메모리 혁신의 방향으로 HBF(고대역폭 플래시)를 제시했다.
AI 모델이 커지고 데이터 이동량이 급증하면서 기존 메모리 체계만으로는 성능과 용량을 동시에 확보하기 어려워지고 있다는 판단에서다. HBF는 낸드플래시를 수직으로 적층해 용량을 늘린 메모리다. HBM보다 용량을 10배 이상 키울 수 있어 대규모 데이터를 처리하는 AI 추론용 메모리로 주목받고 있다.

HBF 상용화를 위한 표준화 작업도 진행 중이다. 안 사장은 "새로운 계층을 만드는 것"이라며 "구글 같은 클라우드서비스제공업체(CSP)와 AI 반도체 기업들이 함께 규격을 논의하고 있다"고 설명했다. SK하이닉스는 지난 7월 초안 규격을 공개했으며 내년 1월 최종 규격을 마련할 계획이다.

HBF 개발의 배경에는 AI 추론 과정에서 발생하는 메모리 병목이 있다. AI 모델이 여러 요청을 동시에 수행할수록 중간 연산 정보를 저장하는 KV 캐시의 용량도 커진다. HBM에 모든 데이터를 담기 어려워 D램이나 SSD까지 활용하면 메모리 계층 사이의 데이터 이동이 늘고 응답 속도가 느려질 수 있다.

안 사장은 “가장 중요한 병목은 결국 데이터 이동”이라고 진단했다. 과거에는 표준 규격에 맞춰 D램과 낸드플래시, SSD를 공급하는 방식이 중심이었지만 HBM이 등장한 뒤 AI 시스템의 요구에 맞춰 메모리 구조 자체를 바꿔야 한다는 설명이다. 그는 “고객들이 원하는 방향으로 AI 모델을 더 효율적으로 제공할 수 있도록” 메모리 계층 사이에 새로운 메모리 형태를 개발해야 한다고 강조했다.
HBF와 함께 다른 메모리 계층을 겨냥한 기술 개발도 추진한다. 안 사장은 GPU나 신경망처리장치(NPU) 위에 D램을 직접 적층하는 ‘3D 적층 D램’을 소개하며 “프로세서와 메모리를 바로 연결”하는 구조를 통해 대역폭을 크게 높일 수 있다고 설명했다. 기존 HBM보다 데이터 이동 경로를 줄여 AI 성능을 끌어올리는 방식이다.

여러 서버가 메모리를 공유하는 컴퓨트 익스프레스 링크(CXL) 기반 메모리 풀링도 개발 대상이다. 서버마다 메모리를 따로 할당하면 일부 서버에는 메모리가 남고 다른 서버에는 부족해질 수 있어 메모리를 공유해 활용 효율을 높이겠다는 구상이다. 낸드와 컨트롤러를 개선해 기존 제품보다 입출력 성능을 4~8배 높이는 ‘스토리지 넥스트’ 기술도 함께 소개했다.

안 사장은 메모리 기술 개발이 개별 제품의 성능 경쟁에 머물러서는 안 된다고 강조했다. 그는 “메모리를 단순한 부품이라고만 보지는 않는다”며 “고객들의 요구를 듣고 고객 간 맞춤형 기술을 만들어가면서” 새로운 메모리 솔루션을 확보해야 한다고 덧붙였다.
AI 인프라 확산을 국내 반도체 산업의 기회로도 꼽았다. 안 사장은 “대한민국에는 기회가 왔다고 생각한다”며 SK하이닉스가 국내 기업들과 협력해 AI 생태계를 구축해야 한다고 강조했다.

김다경 빅데이터뉴스 기자 dk@thebigdata.co.kr