SKT·Arm·리벨리온, AI 데이터센터 협력…추론 인프라 공동 개발

[아이뉴스24 서효빈 기자] SK텔레콤은 Arm, 리벨리온과 AI 데이터센터 사업 협력하기 위한 전략적 업무협약(MOU)을 체결했다고 10일 밝혔다. AI 추론 중심으로 빠르게 재편되는 산업 환경에 대응하기 위한 행보다.

3사는 Arm의 'Arm AGI CPU'와 리벨리온의 '리벨카드'를 결합한 서버 솔루션을 공동 개발한다. 이 솔루션은 AI 추론 성능과 전력 효율을 동시에 높이는 데 초점을 맞췄다. 개발된 서버는 SK텔레콤 AI 데이터센터에 적용해 성능과 안정성을 검증할 계획이다.

AI 산업은 모델 학습 중심에서 실제 서비스 제공을 위한 추론 중심으로 이동하고 있다. 추론은 365일 지속되는 작업으로 전력 효율이 곧 비용 경쟁력으로 이어진다. GPU 대비 전력 소모가 낮은 NPU가 대안으로 떠오른 이유다. 여기에 CPU를 결합한 이종 컴퓨팅 구조는 데이터 처리와 시스템 운영을 분리해 효율을 높인다.

'Arm AGI CPU'는 데이터센터용으로 설계된 AI 추론 특화 프로세서다. 리벨리온의 '리벨카드'는 대규모 추론에 최적화된 NPU다. 두 칩을 하나의 서버에 탑재하면 CPU는 데이터 처리와 운영을 담당하고 NPU는 추론 연산을 전담한다. SK텔레콤은 이를 통해 전력 효율을 높이고 운영 비용을 절감할 수 있다고 설명했다.

이재신 SK텔레콤 AI 사업개발 담당은 "추론 특화 인프라와 A.X K1을 결합해 AI 데이터센터 경쟁력을 높이겠다"고 말했다. 에디 라미레즈 Arm 부사장은 "AI 추론 확산으로 새로운 데이터센터 인프라 수요가 늘고 있다"며 "파트너 협력이 중요한 역할을 하고 있다"고 전했다. 오진욱 리벨리온 CTO는 "차세대 AI 데이터센터의 핵심 축으로 자리잡을 것"이라고 했다.