[아이뉴스24 안세준 기자] SK텔레콤에서 독자 인공지능(AI) 파운데이션 모델 개발을 총괄하고 있는 김태윤 SK텔레콤 파운데이션 모델 담당은 "SK텔레콤이 가려는 방향은 답하는 AI를 넘어 일하는 AI로, 세계가 인정하는 소버린 AI로 요약할 수 있다"고 말했다.
김 담당은 4일 SK텔레콤 뉴스룸에 공개된 인터뷰에서 독자 AI 파운데이션 모델 A.X K2의 기술 경쟁력과 산업 적용 전략, 후속 모델 개발 계획을 소개하며 이같이 밝혔다.
A.X K2, 6880억개 매개변수…추론 비용은 억제
A.X K2는 총 6880억개(668B) 매개변수를 지닌 SK텔레콤의 언어모델이다. 정부가 추진하고 있는 독자 파운데이션 모델(독파모) 프로젝트에 대한 2차수 모델이기도 하다. SK텔레콤은 이전 대비 모델 규모를 키우면서 추론 과정에서 실제 활성화되는 매개변수를 330억개로 유지해 추론 비용 증가를 억제했다.
김 담당은 "A.X K2의 가장 큰 변화는 답하는 AI에서 스스로 계획하고 실행하는 AI로 무게중심을 옮겼다는 점"이라며 "에이전틱 시대에 맞춰 추론 역량을 크게 끌어올렸다"고 설명했다.
국내외 14개 벤치마크 평균 성능은 이전 모델인 A.X K1보다 32.2%포인트 향상됐다. 장문 이해와 에이전트 관련 평가에서는 약 83.9%포인트 개선됐다.
김 담당은 "학습량을 무작정 늘리기보다 분야별 전문 지식이 담긴 고품질 데이터를 엄선·정제하고 고난도 추론과 한국어 역량, 산업 지식을 확보하는 데 집중했다"며 "특히 수학과 한국어 영역에서 두드러진 성과를 냈다"고 언급했다.
장문·도구 호출에 강점…독자 구조 SGA 적용
SK텔레콤은 긴 대화와 대규모 문서 참조, 반복적인 도구 호출을 안정적으로 처리하기 위해 독자 구조인 SGA(Sparse Gated Attention)를 적용했다. 입력 길이 12만 토큰을 기준으로 A.X K1보다 전체 토큰 처리량이 67.7% 개선됐다.
김 담당은 "AI 에이전트가 실제 업무를 수행하려면 여러 차례 대화와 도구 호출, 긴 문서를 참조하는 과정이 이어진다"며 "이 과정에서 효율과 안정성이 떨어지면 전체 서비스 품질도 함께 낮아진다"고 했다.
그러면서 "SK텔레콤이 독자 개발한 SGA는 긴 문맥을 효율적이고 안정적으로 처리하기 위한 어텐션 구조"라며 "입력 길이가 32K를 넘어서면 A.X K2의 처리량과 지연 시간 측면의 이점이 본격적으로 나타난다. 120K 입력 기준으로는 A.X K1보다 전체 토큰 처리량이 67.7% 개선된다"고 덧붙였다.
제조·국방으로 적용 확대…후속 모델은 조 단위로
제조업 현장 적용도 추진하고 있다. SK텔레콤은 반도체·자동차·화학 분야의 한국어 제조 AI 벤치마크를 자체 개발했다. KG스틸과 코넥을 대상으로는 생산라인의 과거 불량 사례를 학습하고, 불량 발생 시 원인과 조치 방법을 안내하는 제조 특화 AI 에이전트를 실증하고 있다.
A.X K2가 산업 현장에 투입될 시 기업 고객의 변화에 대해서는 "기업 입장에서는 수련공이 보유한 암묵지와 흩어진 현장 문서를 디지털 자산으로 정리하고 품질 판정과 생산 효율을 높일 수 있다"며 "고난도 과업은 대형 모델이 담당하고 단순 작업은 경량 모델이 처리하도록 구성해 비용과 성능 균형도 맞출 수 있다"고 했다.
김 담당은 "보안 원칙은 명확하다. 국방과 공공, 제조업처럼 보안이 중요한 분야에서는 기관과 기업 내부의 온프레미스 폐쇄 환경에서 모델을 활용하고, 기밀 데이터를 외부로 반출하지 않는다"고 밝혔다.
SK텔레콤은 국방부에 A.X K1을 세 가지 형태로 양자화해 제공했다. A.X K2 공급도 추진한다. 외부 피싱 탐지 봇과 오디오언어모델 기반 보이스피싱 실시간 탐지 등 국민 안전 분야로도 적용을 확대한다.
후속 모델은 조 단위 매개변수 규모로 확장한다. 에이전틱 강화학습과 사이버 보안, 장문 처리, 고속 서빙 기술을 고도화하고 서울대·한국과학기술원(KAIST)·크래프톤 등과 차세대 아키텍처 연구도 진행한다.
김 담당은 "기술 자체에 머무르지 않고 업계와 고객이 체감할 수 있는 실질적인 가치로 보답하겠다"며 "한국이 안심하고 사용할 수 있고 세계도 인정하는 AI를 향한 도전을 이어가겠다"고 말했다.
/안세준 기자(nocount-jun@inews24.com)