KT클라우드, 국내 최초 공공 전용 'NPU Server' 출시

[아이뉴스24 윤소진 기자] KT클라우드(대표 김봉균)는 국내 클라우드 사업자(CSP) 중 최초로 공공기관 전용 클라우드에 리벨리온의 차세대 NPU(신경망처리장치)를 적용한 ‘NPU Server’ 상품을 출시한다고 4일 밝혔다.

KT클라우드는 공공 전용 데이터센터 내 VM(가상머신) 방식의 NPU 인프라를 상용화하고 국내 NPUaaS 최초로 CSAP 인증을 획득했다.

공공AX 사업에 참여하는 사업자는 NPU Server 상품을 통해 보안 규제 준수와 정책 가점 요건을 동시에 충족할 수 있다. 다양한 AI 솔루션 기업은 보안성이 확보된 NPU 인프라를 기반으로 공공기관 및 지자체에 민원 상담, 행정 업무 지원, 문서 검색·분석 등 AI 에이전트 서비스를 제공할 수 있다.

KT클라우드 NPUaaS는 국내 AI 반도체 기업 리벨리온의 데이터센터용 NPU ‘ATOM Plus(아톰 플러스)’를 기반으로 제공된다. 최근 AI 워크로드의 비중이 학습에서 추론으로 빠르게 이동하면서, 추론에 최적화된 NPU는 AI 인프라의 운영 효율을 높이고 비용 부담을 낮출 수 있는 대안으로 주목받고 있다.

KT클라우드는 지난 4월 공공 고객뿐 아니라 민간 고객까지 활용할 수 있는 AI 통합 플랫폼 ‘AI Nexus(AI 넥서스)’를 출시했다. AI Nexus는 기존 학습 전용 인프라 ‘AI Train’과 추론 전용 인프라 ‘AI SERV’를 통합한 서비스로, AI 모델 학습부터 추론, 배포까지 전체 파이프라인을 하나의 플랫폼에서 제공하는 것이 특징이다.

‘모델 서빙(Model Serving)’ 기능을 강화해 고객이 직접 개발한 AI 모델을 복잡한 배포 과정 없이 클릭 몇 번만으로 안정적인 추론 환경에 적용할 수 있도록 했다. 자체 모델이 없는 스타트업과 중소기업 고객은 ‘Model Store(모델 스토어)’ 기능을 통해 시장에서 널리 활용되는 다양한 오픈소스 모델을 선택하고, LLM 기반 AI 서비스를 보다 손쉽게 구성할 수 있다.

AI Nexus는 A100, H100, H200 등 다양한 NVIDIA GPU 라인업을 지원하며, 올해 3분기 초에는 차세대 GPU인 NVIDIA B300 기반 서비스로 지원 범위를 확대할 계획이다.

김봉균 KT클라우드 대표는 “정부의 국산 AI 반도체 활용 확대 기조에 맞춰 공공 전용 NPU 상품을 출시하게 됐다”며, “kt cloud는 최적의 AI 인프라 플랫폼 사업자로서 공공기관과 기업의 AX 혁신을 지원하고, 국가 AI 산업 경쟁력 강화에 기여하겠다”고 말했다.