SK하이닉스 안현 사장 “AI 시대, 개별 메모리 성능 넘어 전체 메모리 계층 최적화해야”

권민정 기자
입력 2026.10.14 23:17
댓글 0

SEDEX 2026 기조연설서 AI 추론 확산에 따른 메모리 병목 진단, 2030년 AI 인프라 성능 규모 20배 성장 전망
HBM·3D Stacked DRAM·HBF 등 차세대 기술 로드맵 공개, 데이터 처리 성능과 에너지 효율 개선 추진

▲ 기사의 이해를 돕기 위한 AI 생성 이미지 [사진=Gemini 생성이미지, 그래픽=ESG코리아뉴스]

인공지능(AI) 산업이 학습 중심에서 추론 중심으로 확대되면서 반도체 메모리 기술의 경쟁 구도에도 변화가 나타나고 있다. 단순히 데이터를 빠르게 처리하거나 저장 용량을 늘리는 것을 넘어, 서로 다른 메모리 사이에서 발생하는 데이터 이동과 전력 소모를 줄이는 것이 AI 인프라의 핵심 과제로 떠오르고 있다.

SK하이닉스 안현 개발총괄 사장은 14일 열린 국내 반도체 전시회 ‘SEDEX 2026’ 기조연설에서 이러한 변화를 진단하고, 전체 메모리 계층의 최적화를 통해 AI 생태계의 지속적인 성장을 뒷받침하겠다는 기술 전략을 제시했다.

안 사장은 ‘AI 시대, 메모리 기술의 진화 방향’을 주제로 한 연설에서 AI 추론 수요가 빠르게 증가하면서 기존 메모리 구조의 성능과 용량에 새로운 한계가 나타나고 있다고 설명했다.

특히 AI 추론 시장은 작업의 복잡도, 컨텍스트(Context) 길이, 추론 요청량이라는 세 가지 요인이 동시에 증가하면서 성장하고 있다고 분석했다. 이들 요인이 복합적으로 작용하면서 AI 인프라에 요구되는 연산 및 데이터 처리 능력도 급격히 확대되고 있다는 것이다.

안 사장은 AI 인프라의 성능 규모가 2030년에는 2026년 대비 약 20배까지 증가할 것으로 전망했다.

AI 모델이 고도화될수록 연산량뿐 아니라 모델 가중치와 중간 데이터를 저장하고 이동시키는 데 필요한 메모리 자원도 증가한다. 특히 AI가 이전에 처리한 정보를 저장하고 재활용하는 KV 캐시(Key-Value Cache)는 처리해야 할 문맥이 길어질수록 더 많은 저장 공간을 요구한다.

이러한 데이터를 효율적으로 처리하기 위해서는 고대역폭메모리(HBM), D램(DRAM), 솔리드스테이트드라이브(SSD) 등 여러 메모리 계층에 데이터를 분산 저장해야 한다. 그러나 계층 간 데이터 이동이 증가하면서 처리 속도 저하와 전력 소모가 새로운 문제로 부상하고 있다.

안 사장은 과거 메모리 기술의 주요 과제가 연산기와 메모리 사이의 속도 차이를 줄이는 것이었다면, AI 시대에는 서로 다른 메모리 계층 간 성능 격차와 데이터 이동 자체가 새로운 병목으로 작용한다고 진단했다.

이에 따라 개별 메모리 제품의 성능을 높이는 방식에서 벗어나 전체 메모리 계층을 유기적으로 연결하고 최적화하는 접근이 필요하다고 강조했다.

SK하이닉스는 이러한 변화에 대응해 기존 HBM 기술을 고도화하는 동시에 새로운 메모리 계층을 구축하는 기술 개발을 추진하고 있다.

HBM 분야에서는 HBM1부터 HBM4E까지 이어지는 기술 발전을 통해 용량과 대역폭, 에너지 효율을 개선하고 고객별 AI 시스템에 맞춘 ‘커스텀 HBM(Custom HBM)’ 개발을 확대하고 있다.

커스텀 HBM은 메모리의 베이스 다이(Base Die)에 메모리 컨트롤러와 고객 맞춤형 로직을 탑재해 AI 시스템의 구조와 처리 특성에 맞춰 기능을 최적화하는 기술이다. 메모리가 단순한 데이터 저장 장치를 넘어 AI 시스템의 성능을 결정하는 핵심 요소로 발전하고 있다는 의미다.

차세대 기술로는 ‘3D Stacked DRAM’과 ‘HBF(High Bandwidth Flash)’를 제시했다.

3D Stacked DRAM은 GPU나 NPU 등 연산용 반도체 위에 D램을 적층해 연산기와 데이터 사이의 물리적 거리를 줄이는 구조다. 데이터 이동 거리를 단축해 처리 속도를 높이고 전력 소모를 줄이는 것이 목표다.

HBF는 HBM 개발 과정에서 확보한 실리콘관통전극(TSV) 적층 기술과 고속 입출력 기술을 낸드플래시에 적용하는 차세대 메모리다. SK하이닉스는 HBF를 HBM과 D램 사이의 새로운 메모리 계층으로 활용해 고대역폭과 대용량을 동시에 구현한다는 구상이다.

특히 HBF는 동세대 HBM 대비 약 절반 수준의 대역폭과 10배 수준의 용량을 확보하는 것을 개발 목표로 하고 있다. 이를 통해 AI 추론에 필요한 대규모 데이터를 연산기 가까이에 저장하고, 다른 메모리 계층으로의 접근을 줄여 시스템 전반의 효율을 높일 수 있을 것으로 기대하고 있다.

AI 추론은 대규모 데이터를 반복적으로 읽는 작업이 많고 상대적으로 쓰기 작업이 적다는 특성이 있어 낸드플래시 기반의 HBF가 새로운 대안이 될 수 있다는 설명이다.

SK하이닉스는 이 밖에도 CXL(Compute Express Link)과 Storage-Next 등 차세대 메모리·스토리지 기술을 활용해 AI 작업 특성에 맞는 메모리 구조를 구축할 계획이다. HBF의 선제적 표준화와 글로벌 기업들과의 기술 협력도 추진한다.

한편 SK하이닉스는 한국반도체산업협회가 주최하는 ‘SEDEX 2026’에 참가해 AI 서버부터 PC와 모바일 기기까지 아우르는 메모리 솔루션을 선보였다.

‘멈추지 않고 나아가는 AI 여정’을 주제로 마련한 전시 공간은 육상 트랙 형태로 구성됐다. 관람객들이 이동 동선을 따라 회사의 기술 발전 과정과 주요 제품, 미래 비전을 살펴볼 수 있도록 했다.

전시장에서는 HBM과 HBF 구조 모형, HBM 개발 역사와 함께 엔비디아의 베라 루빈 슈퍼칩, 젠슨 황 엔비디아 최고경영자의 서명이 담긴 HBM 웨이퍼 등을 공개했다.

서버용 메모리 분야에서는 256GB 3DS RDIMM, 128GB MRDIMM, 10나노급 6세대(1c) 공정을 적용한 64GB RDIMM 등을 선보였으며, 기업용 SSD 분야에서는 액체냉각을 지원하는 PEB210 제품과 QLC 기반 PS1101 등을 소개했다.

PC·모바일 분야에서도 DDR5 CSODIMM, GDDR7, LPDDR5X, LPDDR6 등 다양한 D램과 차세대 스토리지 제품을 전시했다. AI 기술을 활용한 지역사회 사회적 가치 창출 활동도 함께 소개했다.

이번 발표는 AI 반도체 시장의 경쟁이 개별 메모리의 성능과 공급 능력을 넘어 시스템 전체의 데이터 처리 효율을 높이는 방향으로 확대되고 있음을 보여준다. 특히 AI 인프라의 전력 수요가 주요 산업 과제로 떠오르는 상황에서 메모리 계층 최적화는 연산 성능뿐 아니라 에너지 효율을 개선하는 기술적 접근으로도 주목된다.

SK하이닉스는 HBM에서 축적한 기술 경쟁력을 차세대 메모리 영역으로 확대하고, 글로벌 파트너들과의 협력을 통해 AI 생태계의 지속 가능한 성장을 뒷받침한다는 방침이다.

편집 참고: 제공된 원문을 바탕으로 기술적 핵심과 에너지 효율 측면을 중심으로 재구성했습니다. 2030년 20배 성장 전망과 HBF 성능 수치는 회사 측 전망 및 개발 목표이며, 확정된 실적은 아닙니다. 별도 독립 검증은 진행하지 않았습니다.