SK하이닉스 "피지컬 AI 시대, 메모리 공유 구조로 전환 필요"

[아이뉴스24 권서아 기자] SK하이닉스가 피지컬 인공지능(AI) 시대를 대비해 컴퓨트익스프레스링크(CXL) 기반 메모리 공유 구조를 차세대 핵심 기술로 검토하고 있다. AI 데이터가 급증하는 환경에서 데이터 복사와 이동에 따른 비효율이 커지고 있다는 판단에서다.

최해랑 SK하이닉스 PIM(프로세싱인메모리) HW(하드웨어) TL은 16일 서울대학교에서 열린 '서울대학교 AI 반도체 포럼&채용박람회'에서 "에이전틱 AI와 피지컬 AI로 갈수록 데이터 생성 속도와 양이 기하급수적으로 증가한다"며 "데이터를 복사하는 방식에서 벗어나 하나의 메모리 자원을 여러 시스템이 공유하는 구조로 전환해야 한다"고 말했다.

SK하이닉스는 AI 진화 단계를 퍼셉션 AI, 생성형 AI, 에이전틱 AI, 피지컬 AI로 구분하고 있다. 에이전틱 AI 이후부터는 연산 성능보다 데이터 저장·이동·공유 효율이 AI 서비스 성능과 비용을 좌우하는 핵심 요소로 작용한다고 보고 있다.

이 과정에서 주목받는 기술이 CXL이다. CXL은 CPU, GPU, 시스템온칩(SoC) 등 다양한 연산 장치를 고속으로 연결해 메모리를 공유할 수 있도록 하는 기술이다. 기존 서버 구조를 바꾸지 않고도 메모리 용량을 늘릴 수 있어, AI와 클라우드 인프라에서 핵심 기술로 꼽힌다.

CXL의 핵심은 '메모리 풀링(memory pooling)'이다. 현재 데이터센터에서는 서버마다 메모리가 따로 붙어 있어, 어떤 서버에 메모리가 남아 있어도 다른 서버가 이를 가져다 쓸 수 없다. 이 때문에 클라우드서비스제공자(CSP)들은 장애를 막기 위해 메모리를 넉넉하게 배치하는 경우가 많고, 실제 사용률은 평균 20%대에 그친다는 지적도 나온다.

특히 로봇과 제조 현장 등 피지컬 AI 환경에서는 개인화된 장치에서 실시간으로 대량의 데이터가 생성된다. 이 데이터는 중앙 서버로 집약돼 학습과 서비스 고도화에 활용되며, 이 과정에서 데이터 이동을 최소화할 수 있는 메모리 풀링 구조가 필요하다는 설명이다.

현재 AI 서비스는 여러 모델과 에이전트가 동시에 동작하며 KV(Key-Value) 캐시 등 데이터를 반복적으로 복사해 사용하는 구조다. 데이터 규모가 커질수록 복사 과정에서 에너지 소모와 메모리 중복 투자가 급격히 늘어나는 문제가 발생한다.

최 팀장은 "데이터가 계속 늘어나는 상황에서 복사 방식은 에너지 낭비로 이어질 수 있다"며 "카피보다 쉐어가 훨씬 효율적"이라고 강조했다. 메모리 풀링을 통해 여러 서버가 하나의 메모리 공간을 참조하면 데이터 이동 없이도 성능과 에너지 효율을 동시에 개선할 수 있다는 설명이다.

SK하이닉스는 글로벌 데이터센터 사업자들과 CXL 기반 메모리 공유 구조의 활용 가능성과 기술 방향에 대해 논의를 진행하고 있다.

회사는 HBM·D램·낸드 등 범용 메모리 제조사에서 나아가, AI 서비스 효율을 직접 높이는 메모리 솔루션 기업으로의 전환을 추진 중이다. 커스텀 HBM과 CXL 기반 AI-D(D램), AI-N(낸드) 등 AI 특화 메모리를 중심으로 차세대 AI 시스템에 최적화된 제품 개발에 속도를 내고 있다.