[아이뉴스24 정유림 기자] 카카오가 개인화 인공지능(AI) 에이전트의 기반 기술인 임베딩 모델(카나나-2-임베딩) 2종을 AI 개발 플랫폼 허깅페이스에 오픈소스로 29일 공개했다.
이번에 공개한 모델은 매개변수(파라미터) 30억개 규모의 '카나나-2-3b-임베딩'과 13억개 규모의 '카나나-2-1.3b-임베딩'이다.
이 모델은 문자(텍스트)의 의미를 수치로 표현해 이용자의 질문과 관련된 정보를 찾는 기술이다. 일반 언어모델이 질문을 이해하고 답변을 생성한다면 임베딩 모델은 질문과 정보 사이의 의미적 유사성을 바탕으로 답변에 필요한 정보를 찾아주는 역할을 한다. 이용자가 정확한 단어를 기억하지 못하더라도 표현의 의미가 가까운 정보를 검색할 수 있다는 점이 특징이다.
이 기술은 개인화 AI 에이전트가 이용자에게 맞는 도움을 제공하는 데 중요한 기반이 된다. 예를 들어 이용자가 "전에 이야기했던 조용한 식당"을 찾을 때 식당 이름을 입력하지 않아도 '대화하기 좋은 곳'처럼 비슷한 의미로 남아 있는 과거 정보를 찾도록 도울 수 있다. 필요한 순간에 관련 정보를 찾아 연결하고 AI가 이용자의 맥락을 참고해 답변하는 식이다.
카카오에 따르면 모델 2종은 유사 규모의 공개 모델인 엔비디아의 라마-네모트론-임베드-1b-v2, 알리바바의 큐웬3-임베딩-4B와 비교한 평가에서 가장 높은 한국어 성능과 유사한 수준의 영어 성능을 보였다. 또 기존 카나나 모델 시리즈보다 검색 성능을 개선하고 메모리 사용과 추론 속도 측면에서 수십 배 이상의 효율성 향상을 확인했다고 덧붙였다.
두 모델에는 연구·개발뿐 아니라 라이선스 조건에 따른 상업적 활용도 가능한 '카나나 오픈 라이선스'를 적용했다. 국내외 연구자와 기업은 공개된 모델을 검증하고 개인화 기반의 AI 에이전트와 의미 기반 검색 서비스 개발에 활용할 수 있다.
카카오는 앞으로 규모가 더 큰 언어모델을 기반으로 임베딩 학습과 지식 증류 연구를 이어가며 검색 성능과 활용 효율을 함께 높인 모델을 개발할 계획이다.
노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "이번 공개를 통해 연구자와 개발자가 한국어에 강점을 가진 임베딩 기술을 다양한 서비스에 활용할 수 있도록 돕고 검색 성능과 효율을 함께 높이는 연구를 이어갈 것"이라고 밝혔다.
/정유림 기자(2yclever@inews24.com)