KT, 기업 AX 지원 GPU 전략 공개…'AI GPU 세미나' 개최

[아이뉴스24 서효빈 기자] KT가 기업과 공공기관의 AI 전환(AX)을 지원하기 위한 GPU 인프라 전략을 공개했다.

KT는 20일 KT 웨스트 사옥에서 'AI GPU 세미나'를 열고 맞춤형 GPU 서비스와 적용 사례를 소개했다.

AI 도입이 기업 경쟁력의 핵심으로 떠오르면서 GPU 인프라 확보가 중요해지고 있다. 대규모 AI 모델 학습에는 수십 대에서 수백 대의 GPU가 필요하다. KT는 이러한 수요에 대응해 온프레미스형과 클라우드형 GPU 서비스를 동시에 제공한다.

온프레미스형 'Managed AI GPU'는 KT가 고객 전산센터에 GPU 인프라를 구축하고 운영까지 맡는 서비스다. GPU 설계와 서버, 보안, 회선 등 전반을 통합 지원한다. 초기 투자 부담 없이 월 단위로 이용할 수 있어 비용 효율성을 높였다. 클라우드형 'K GPUaaS'는 엔비디아 H100 기반 GPU를 구독 형태로 제공한다. 인피니밴드 네트워크를 적용해 고속 통신을 지원하고, GPU 가상화 분할 기술로 자원을 탄력적으로 배분한다. 모든 데이터는 국내에서 관리해 보안 우려를 낮췄다.

다양한 산업 현장에서 GPU 인프라 적용 사례도 공개했다. 공공기관에는 다수 GPU를 연결한 'GPU Farm'을 구축해 AI 학습과 빅데이터 분석 환경을 제공했다. 대학 연구기관에는 'K GPUaaS'를 적용해 LLM 개발과 파인튜닝 환경을 지원했다. 시설관리공단에는 AI 기반 지능형 관제 시스템을 도입해 CCTV 영상 분석과 이상 상황 예측 기능을 구현했다.

세미나에서는 AI 인프라 도입 전략과 운영 경험에 대한 질의가 이어졌다. 설문 결과 참석자 81%가 AI 인프라 도입 컨설팅을 희망했다. 한 대학 관계자는 "전문 인프라 경험이 부족해 고민했는데 구체적인 전략을 확인했다"고 했고, 제조기업 관계자는 "데이터 보안을 유지하면서 인프라를 구축할 수 있는 방안을 알게 됐다"고 말했다.

전명준 KT Enterprise부문 서비스Product본부 상무는 "KT는 기업과 공공 고객이 AI 인프라를 쉽게 활용하도록 지원하고 있다"며 "세미나가 디지털 혁신과 AI 전략 수립에 도움이 되길 기대한다"고 밝혔다.