[아이뉴스24 권서아 기자] 삼성전자가 인공지능(AI) 시대 반도체 성능을 좌우할 핵심으로 메모리 대역폭(처리해야 할 신호)을 꼽았다.
조상연 삼성전자 반도체(DS)부문 미주총괄법인(DSA) 총괄(부사장)은 27일(현지시간) 온라인으로 열린 미국 IT 콘퍼런스 '더 식스파이브 서밋 2026'에서 "AI 추론 서비스의 초당 토큰 수가 메모리 대역폭에 의해 결정된다는 사실을 업계가 아직 제대로 이해하지 못하고 있다"고 말했다.
메모리 대역폭은 메모리와 AI 가속기 사이에서 데이터를 얼마나 빠르게 주고받을 수 있는지를 뜻한다.
조 부사장은 메모리 대역폭이 AI 서비스의 이용자와 요청 수, 응답 속도, 맥락 처리량뿐 아니라 서비스 제공 비용까지 좌우한다고 설명했다.
조 부사장은 "삼성은 비트(데이터의 단위)를 판매하는 것이 아니라 대역폭을 판매하고 있다"며 '메모리 중심 컴퓨팅'을 강조했다.
중앙처리장치(CPU)나 그래픽처리장치(GPU)를 먼저 정한 뒤 메모리를 맞추는 기존 방식과 달리 필요한 메모리 대역폭부터 정하고 연산(컴퓨팅) 장치와 패키징을 설계하자는 것이다.
대표 제품으로는 차세대 메모리 'zHBM'을 제시했다.
zHBM은 AI 가속기(GPU·NPU 등) 옆에 고대역폭 메모리(HBM)를 배치하는 기존 방식과 달리 가속기 위에 HBM을 직접 쌓아 데이터 이동 거리를 줄인다.
조 부사장은 "현재 1세대 zHBM의 세부 사양을 정의하고 있다"며 "이를 기반으로 한 미래 제품은 2029년 이후 등장할 것으로 예상한다"고 말했다.
발열 문제는 하이브리드 구리 접합(HCB) 등 차세대 접합 기술로 해결한다.
삼성전자는 메모리와 파운드리(반도체 위탁생산), 첨단 패키징(반도체 후공정)을 모두 보유한 강점도 강조했다.
현재 양산 중인 HBM4(6세대)는 4나노(1나노는 10억분의 1m) 공정의 베이스다이(HBM 맨 밑에서 신호를 처리하는 층)를 자체 설계하고 조립·패키징까지 할 수 있다는 것이다.
조 부사장은 "(SK하이닉스 같은) 일부 기업은 베이스다이를 (대만 TSMC 등) 외부에 위탁한다"며 "삼성은 시스템·칩·메모리 수준에서 통합 과정을 직접 관리한다"고 말했다.
/권서아 기자(seoahkwon@inews24.com)