카카오, AI 에이전트 판단·선택 돕는 멀티모달 모델 공개

카카오, AI 에이전트 판단·선택 돕는 멀티모달 모델 공개

문자, 이미지 함께 이해하고 확률, 선택, 점수로 응답하는 의사결정 모델
에이전트 업무 실행서 유용한 역할⋯"빠른 응답 속도·판단 성능 강점"

[아이뉴스24 정유림 기자] 카카오가 인공지능(AI)의 의사결정을 지원하는 자체 개발 멀티모달 모델 '카나나-2-v-디사이드'를 6일 AI 개발 플랫폼 허깅페이스에 오픈소스로 공개했다.

[사진=카카오]

카카오에 따르면 최근 AI 에이전트의 업무 수행 과정에서 반복되는 판단을 빠르고 효율적으로 처리하는 의사결정 모델이 주목받고 있다. 이 모델은 이용자의 질문에 대해 문장으로 답변하는 대신, 확률(Noul)·선택(Choice)·점수(Score) 등 규격화된 형태로 판단 결과를 제공한다. 서비스가 이 결과를 바로 활용할 수 있도록 설계돼 자연어 답변에서 필요한 결론을 다시 추출하는 과정을 줄이고 다음 동작으로 빠르게 연결할 수 있는 것이 특징이다.

이는 이용자의 요청에 따라 여러 단계의 업무를 수행하는 AI 에이전트에 특히 유용하다는 평가다. AI 에이전트는 요청을 이해하는 데서 나아가 어떤 도구를 사용하고 어떤 정보를 참고할지, 이후 어떤 절차를 실행할지 연속적으로 판단해야 한다. 의사결정 모델은 이 과정에서 각 단계에 필요한 판단 결과를 빠르게 제공해 AI 에이전트가 다음 작업을 수행하도록 돕는다.

카카오는 자체 개발한 멀티모달 언어모델(카나나-2-v-3b)을 기반으로 의사결정 모델을 만들었다. 판단 형식을 지원하는 동시에 문자와 이미지를 함께 이해해 이용자로부터 들어온 문의 분류나 AI 에이전트 도구 선택, 상품 이미지 판단 등 판단이 필요한 다양한 서비스에 적용할 수 있다.

모델은 문자나 이미지를 입력하면 결과를 확률, 선택, 점수 등 3가지 형식으로 제공한다. 확률은 특정 조건이 참일 확률을, 선택은 여러 선택지별 확률과 최적의 선택지를 나타낸다. 점수는 평가 단계별 확률을 반영한 정밀한 점수를 제공한다. 개발자는 서비스 목적에 맞춰 필요한 판단 형식을 선택하고 결과를 후속 작업과 연결할 수 있다.

예를 들어 고객이 파손된 상품 사진과 함께 교환을 요청하면 모델은 이미지와 문의 내용을 바탕으로 파손 여부와 문의 유형, 고객의 감정 상태 등을 확률이나 점수로 판단한다. 서비스는 이 결과를 정해진 처리 기준과 결합해 상담 채널로 연결하거나 교환 절차를 안내할 수 있다.

카카오는 입력한 질문과 선택지를 숫자들의 묶음인 벡터로 표현해 유사도를 비교하는 임베딩 기반 구조를 적용했다. 분류 항목이 많은 환경에서도 유연하게 활용할 수 있으며 동일한 선택지의 벡터는 저장 후 재사용할 수 있어 반복 요청 시 연산 부담과 응답 지연을 줄일 수 있다.

카카오의 AI 모델은 H200 그래픽처리장치(GPU) 1장 기준 평균 0.04초 이내의 응답 속도를 기록했다. 카카오 관계자는 "오픈AI의 GPT-6 루나 대비 43배 빠른 속도로 실시간 처리가 필요한 서비스에서의 활용 가능성을 확인했다"고 강조했다.

판단 성능도 뛰어나다고 카카오 측은 덧붙였다. 한국어 1만5909개 문항으로 구성된 자체 평가 데이터셋과 공개된 평가 데이터셋에서 비교 대상 모델 가운데 가장 높은 성능을 기록했다. 비교 대상은 마이크로소프트의 디시젼-1, 퍼플렉시티의 pplx-디사이더-v1.1-27B, 업스테이지의 솔라 디사이더 등이다.

이번 모델에는 연구 목적 뿐 아니라 상업적 활용이 가능한 '카나나 오픈 라이선스'가 적용됐다. 국내외 연구자와 기업은 다양한 AI 에이전트 서비스를 개발하는 데 이 모델을 활용할 수 있다.

카카오는 웹 검색과 상품 카테고리 자동 분류 등 내부 프로젝트에 모델을 우선 적용해 실제 서비스 환경에서 성능을 개선할 예정이다. 향후 검색과 판단을 하나의 모델로 통합하는 방향으로 기술을 고도화한다.

최동진 카카오 어플라이드 AI 모델 성과리더는 "앞으로도 기술 고도화와 공개를 통해 이용자가 일상에서 체감할 수 있는 AI 경험을 제공해 나갈 것"이라고 밝혔다.

/정유림 기자(2yclever@inews24.com)