[클라우드+] "AI 전환 최대 장벽은 비용…해법은 GPUaaS"

[아이뉴스24 윤소진 기자] AI 전환을 시도하는 기업들이 직면하는 막대한 인프라 구축 비용 부담을 덜어주는 방안으로 ‘GPUaaS(GPU as a Service)’가 제시됐다. GPU를 서비스 형태로 제공하는 것이다. 네이버클라우드·카카오엔터프라이즈·NHN클라우드 3사는 이를 통해 초기 투자 비용 부담이 줄고 시스템의 확장성도 강화될 것으로 기대하고 있다.

17일 서울 삼성동 코엑스에서 열린 '디지털 서비스 서밋 2025'에서 네이버클라우드·카카오엔터프라이즈·NHN클라우드 등 국내 클라우드제공사업자(CSP) 3사는 GPUaaS를 중심으로 한 AI 전환 지원 전략을 공개했다.

GPUaaS는 기업이 고가의 GPU 장비를 직접 구매·보유하지 않고, 클라우드 사업자가 구축한 GPU 인프라를 필요한 만큼 빌려 쓰는 방식이다. 초기 투자 비용과 장비 교체에 따른 부담을 줄일 수 있고, 학습·추론 등 용도에 따라 GPU 자원을 유연하게 확장할 수 있다는 점이 특징이다.

GPU 확보보다 '효율적 운영'이 관건

3사 발표에서 공통적으로 강조된 점은 GPU 확보 자체보다 이를 얼마나 효율적으로 운영하느냐가 AI 경쟁력을 좌우한다는 인식이다. GPU 자원을 얼마나 효율적으로 배분·공유하고 사용량에 따라 비용을 관리할 수 있는 운영 역량이 AI 전환의 핵심 요소로 부상하고 있다는 설명이다.

먼저 네이버클라우드는 '소버린 AI' 구현을 위한 풀스택 AI 인프라를 제공하는 것을 차별점으로 제시했다. 자체 서비스로 축적한 AI 인프라 운영 노하우를 GPUaaS 모델로 발전시켜 새로운 성장 동력으로 내세우고 있다. 고성능 GPU의 발열과 냉각 문제 해결을 위해 액침 냉각 기술도 자체 개발해 상용화를 준비 중이다.

김지훈 네이버클라우드 상무는 "IDC부터 GPU·NPU, 클라우드 플랫폼, GPU 매니지먼트 플랫폼, 모델 매니지먼트 플랫폼, AI 에이전트 생성 도구까지 엔드투엔드로 제공할 수 있는 AI 인프라가 중요하다"며 "공공·에너지·국방 등 퍼블릭 클라우드를 사용할 수 없는 영역을 지원하기 위한 새로운 AI 프라이빗 클라우드도 준비하고 있다"고 설명했다.

카카오엔터프라이즈는 올해 하반기 출시한 엔터프라이즈 솔루션 '하이브리드 GPUaaS'로 경제성과 유연성을 동시에 확보하는 전략을 제시했다. 고객이 GPU를 자산으로 소유하고 카카오클라우드가 GPU 클러스터를 구축 및 운영하는 형태다.

이승훈 카카오엔터프라이즈 PaaS개발실장은 "AI 전환을 시도할 때 직면하는 첫 번째 문제는 막대한 비용, 두 번째는 AI 전환을 위한 복잡한 과정"이라며 "고객 소유 서버를 카카오 하이브리드 데이터센터에 입점시켜 GPU 구매·구축 비용을 절감하고, 필요시 카카오클라우드의 GPU를 동시에 사용할 수 있는 확장성을 지원한다"고 말했다.

NHN클라우드는 인프라 운영 경험을 강점으로 전문 GPU 팜 구축과 GPU 기반 클라우드 서비스 확대에 집중하고 있다. AI 인프라를 기업이 직접 구축할 경우 초기 투자 비용과 운영 부담이 과도하다는 점에서 클라우드 기반 GPU 활용이 현실적인 대안이라는 설명이다.

김태형 NHN클라우드 CTO는 “AI 인프라를 직접 구축하면 서버 한 대당 약 10억원이 들어가는 등 초기 투자 비용이 과도하고, 단독 구축 시 확장성의 한계를 느낄 수밖에 없다”며 “한 번 장비를 구매하면 감가상각이 끝날 때까지 계속 사용해야 하는데 엔비디아의 GPU가 매년 새로운 모델을 내놓는 상황에서 최신 기술을 확보하기도 쉽지 않고, GPU는 일반 서버와 달리 네트워크 구성과 튜닝 포인트가 달라 운영·유지보수 난이도도 높다”고 설명했다. 이어 "GPUaaS를 이용하면 비용 절감과 확장성은 물론 최신 기술 접근성과 유지보수 부담 해소 측면에서도 이점이 있다”고 덧붙였다.

과학기술정보통신부가 주최하고 한국지능정보사회진흥원(NIA)과 오픈클라우드플랫폼얼라이언스(OPA) 주관으로 열린 이번 행사는 대한민국 AX 대전화의 기반인 AI·클라우드 기술의 발전 방향을 공유하는 자리로 마련됐다.

김홍진 OPA 의장은 “디지털 서비스의 궁극적인 목적은 기업과 국민이 실질적인 가치를 체감하는 데 있다”며 “이를 위해서는 서비스 자체뿐 아니라 AI 인프라와 데이터, 이를 뒷받침하는 클라우드 기반이 함께 갖춰져야 한다”고 말했다.