[컨콜] KT "GPU 확대해 AI 토큰 생산⋯국내 유통 거점 도약"

[컨콜] KT "GPU 확대해 AI 토큰 생산⋯국내 유통 거점 도약"

[아이뉴스24 안세준 기자] 박상원 KT AX사업부문장은 10일 KT 3분기 실적 발표 컨퍼런스콜에서 "궁극적으로 자체 GPU를 확대해 국내 토큰 생산·유통 거점으로 도약하려 한다"고 밝혔다.

KT 사옥 전경. [사진=KT]

박 부문장은 이날 토큰팩토리 사업 수익화 전략을 묻는 질문에 이같이 답했다. 외부 인공지능(AI) 모델을 연결해 제공하는 중개 사업뿐 아니라 자체 인프라를 활용한 AI 추론 서비스도 확대하겠다는 구상이다.

KT 토큰팩토리는 지난달 30일 출시한 AI 모델 통합 플랫폼이다. 기업이 다양한 AI 모델을 선택해 이용할 수 있도록 지원하고 토큰 사용량과 비용 관리, 보안 기능 등을 제공한다.

박 부문장은 "KT 토큰팩토리는 자체 GPU로 국내에서 모델을 직접 추론하는 방식과 오픈라우터 같은 글로벌 외부 공급 모델을 라우팅하는 방식 등 생산과 중개 두 가지를 모두 제공하는 사업 구조"라고 설명했다.

그러면서 "500개 이상의 모델을 제공할 수 있는 구조는 굉장히 큰 강점"이라며 "국내 호스팅 모델로 직접 추론하는 방식은 소버린 측면에서 큰 장점을 갖고 있다"고 말했다.

박 부문장은 "자체 GPU 추론 방식과 외부 모델 중개 방식을 균형 있게 성장시켜 나갈 예정"이라며 "통신사가 가진 정밀한 과금·청구 역량을 기존 사업과 연계해 시너지 매출도 확대하겠다"고 말했다.

/안세준 기자(nocount-jun@inews24.com)