실시간 뉴스



"속도 10배 빠르게"···SK하이닉스, 생성형 AI 특화 가속기 카드 공개


GDDR6-AiM 칩 탑재 AiMX 시스템···전력 소모는 5분의 1 수준

[아이뉴스24 민혜정 기자] SK하이닉스가 생성형 인공지능(AI)의 반응 속도는 10배 이상 끌어올리고, 전력 소모는 줄여주는 가속기 카드 시제품을 최초로 공개했다.

SK하이닉스는 지난 12일(현지시간)부터 사흘간 미국 캘리포니아주 메리어트 산타클라라 호텔에서 열린 'AI 하드웨어 & 에지 AI 서밋 2023(Hardware & Edge AI Summit 2023)'에서 GDDR6-AiM 기반의 생성형 AI 가속기 카드인 AiMX 시제품을 최초 공개하고 시연했다고 18일 밝혔다.

SK하이닉스는 이번 서밋에서 '인공지능 성능을 가속하는 SK하이닉스의 PIM 반도체 AiM'이라는 슬로건을 걸고, GDDR6-AiM과 이 제품을 여러개 연결해 성능을 한층 개선한 가속기 카드 AiMX 시제품을 선보였다.

AiMX 시스템을 통해 거대 인공지능 언어 모델을 시연하는 모습 [사진=SK하이닉스 ]
AiMX 시스템을 통해 거대 인공지능 언어 모델을 시연하는 모습 [사진=SK하이닉스 ]

AiMX는 SK하이닉스의 GDDR6-AiM 칩을 사용해 대규모 언어 모델을 학습하는데 각종 정보 처리와 연산에 특화돼 있다. 생성형 AI는 데이터 학습량이 많을수록 우수한 결과를 내기에 대량의 데이터를 다루면서 저전력, 고속으로 작동하는 메모리가 필수다.

SK하이닉스는 이번 행사에서 메타의 생성형 AI인 'OPT(Open Pre-trained Transformer) 13B' 모델을 AiMX 시제품을 탑재한 서버 시스템에서 시연했다.

GDDR6-AiM 칩을 탑재한 AiMX 시스템은 그래픽처리장치(GPU)를 탑재한 시스템 대비 반응 속도는 10배 이상 빠르지만, 전력 소모는 5분의 1 수준이다. 회사는 이번 시연을 통해 최신 가속기 대비 높은 성능을 낼 수 있다는 점을 보여주며 인공지능을 서비스하는 글로벌 기업들의 주목을 받았다.

임의철 SK하이닉스 부사장은 "SK하이닉스의 AiMX는 기존 GPU를 쓸 때보다 고성능, 저전력에 비용도 절감할 수 있는 솔루션"이라며 "앞으로도 당사는 인공지능 시대를 이끌어갈 메모리 기술 개발을 이어나갈 것"이라고 강조했다.

/민혜정 기자(hye555@inews24.com)






alert

댓글 쓰기 제목 "속도 10배 빠르게"···SK하이닉스, 생성형 AI 특화 가속기 카드 공개

댓글-

첫 번째 댓글을 작성해 보세요.

로딩중

포토뉴스