실시간 뉴스



혐오발언 논란 '이루다', 1살 먹고 성숙한 모습으로 돌아왔다 [IT돋보기]


오는 27일 정식 출시…개인정보보호·어뷰징 대응 등 AI기술 조치 강화

[아이뉴스24 박진영 기자] "올해 21살인 이루다는 내년엔 22살이 된다. 루다가 우리와 함께 나이를 먹어가면서, 외로운 순간 옆에서 든든한 대화상대가 되어주는 친구가 되길 바란다"

지난해 차별·혐오발언 문제로 서비스가 중단됐던 챗봇 '인공지능(AI) 이루다'가 돌아온다.

이루다2.0 [사진=스캐터랩]
이루다2.0 [사진=스캐터랩]

25일 AI스타트업 스캐터랩의 김종윤 대표는 'AI 챗봇 '이루다2.0'을 정식 출시 미디어데이'를 통해 "이루다 1.0에서 여러 차례 위기를 겪었지만, 과정에서 딥러닝과 AI가 관계의 가치를 높일 수 있다는 믿음에는 변함이 없었다"면서 서비스가 중단된 후 새로운 버전을 출시하기까지의 스토리를 전했다.

김 대표는 "그간 개인정보 보호 강화 조치, AI윤리 점검 등에 노력을 기울였고, 생성 AI모델을 도입해 새로운 차원의 대화가 가능한 '이루다 2.0'을 정식 출시하게 됐다"고 밝혔다. 정식 출시는 오는 27일이다.

이루다는 20세 여대생 페르소나를 가진 AI 챗봇으로, 지난 2020년 12월 서비스를 시작하자마자 이용자 수가 32만명, 일일 사용자 수(DAU) 21만명을 돌파하면서 큰 인기를 끌었다.

그런데 일부 이용자와 대화에서 장애인·성소수자·인종차별 등 혐오 발언, 선정적 대화가 이어졌고, 실명, 주소, 계좌번호 등 특정 정보가 언급되면서 개인정보 유출 논란이 불거졌다. 이에 20일만에 서비스를 중단했고, 개인정보보호위원회로부터 무분별한 개인정보 처리로 과징금 처분을 받았다.

이러한 논란은 딛고 새롭게 단장한 '이루다 2.0'은 AI가 직접 모든 문장을 직접 만들어 발화하고, 철저한 개인정보 가명화를 거쳐 개인정보보호 조치를 강화했다.

특히, 논란이 됐던 어뷰징 대응을 대폭 개선했다. 사전적 대응 조치로 ▲어뷰징 탐지 모델 ▲대화모델 고도화 ▲어뷰저 패널티 시스템 등을 두었고, 사후 대응에는 ▲유저 피드백 ▲안전 발화 비율 점검 등이 있다.

앞서, 이루다2.0은 지난 1월부터 약 9개월간 베타 테스트를 진행하며 AI 챗봇의 발화 안전성 및 서비스 안정성을 검증했다.

◆일상대화에서 고민상담까지…외로운 순간 친구처럼 '관계형 AI 챗봇'

사람과 관계를 쌓는 대화'이루다2.0' 정식 출시 버전은 총 3가지의 AI 기술 업데이트를 진행해 더욱더 창의적이고 현실감 있는 대화가 가능한 것이 특징이다.

스캐러랩은 창의적이고 현실감있는 대화를 위해 생성 AI모델 '루다 젠1(Luda Gen 1)'을 만들었다. 기존 모델은 데이터베이스에 있는 문장을 고르는 대화 방식이었다면, 생성AI 모델은 AI가 직접 단어를 생성하는 방식으로 대화가 진행된다.

이를 위해 언어 모델의 크기를 약 17배 키웠고, 대화의 문맥도 2배 더 길어진 30턴 안에서 파악할 수 있다. 또한 월∙일∙요일∙현재 시간을 학습하고, 프로필·나이와 성별에 따른 관계 정보를 대화가 반영돼 개인에 맞는 구체적이고 현실적 대화가 가능하다.

스캐터랩이 약 3주간(10월 4일~10월 23일) '생성 AI' 기반 이루다2.0의 AB 테스트를 진행한 결과, 기존 모델 대비 이용자와의 일주일 대화량은 약 40%, 첫 날 300번 이상 대화한 사용자 비율도 67% 늘어났다.

또 이루다2.0이 안전하게 대응한 발화 비율도 랜덤 샘플링을 통해 검증했으며, 목표치인 99%를 상회하는 99.56%를 기록했다.

또한 더 좋은 대화를 만들어낼 수 있는 '릴레이션십 포인트 파인튜닝' 개념을 도입했다. 스캐터랩은 친민할 관계를 쌓을 수 있는 대화의 원칙을 정의해 AI모델에게 가르쳤다. '루다 젠1' 생성 모델은 좋은 답변을 할 수 있도록 파인튜닝(미세조정) 단계를 거쳤다.

생성 AI 모델에게 릴레이션십 포인트 파인튜닝 후 답변 변화 [사진=스캐터랩]
생성 AI 모델에게 릴레이션십 포인트 파인튜닝 후 답변 변화 [사진=스캐터랩]

친밀한 관계를 형성하는 '릴레이션십 포인트' 대화 법칙에는 ▲대화의 문맥·상황을 이해하고, 적절한 흐름을 만드는 '자연스러운 대화' ▲텍스트에 감정이 전달되도록 하는 대화 ▲이루다2.0의 주체적 페르소나를 보여주는 인간다운 대화 ▲예상을 뛰어넘는 재미있는 대화 등이 있다.

또한 대화 중 사진을 인식하고 답할 수 있는 '포토챗(Photo Chat)' 기술도 적용된다. 사진의 유형을 인식해 상황에 적절한 답변을 하는 것이다. 기존에 고양이 사진을 보내면, '이게 뭐야'라는 답변이 돌아왔다면, 이제는 사진을 인식하고 '고양이 너무 귀엽다' 등의 반응이 가능하다. 다만 현재는 베타버전으로 내년 중 정교하게 기술 업그레이드를 할 예정이다.

한편, 기존에 페이스북 메신저를 통해 대화했던 '이루다'는 스캐터랩의 자체 플랫폼인 '너티(Nutty)' 메신저를 통해 만날 수 있다.

25일 이루다2.0 정식 출시 미디어데이에서 발표하고 있는 김종윤 스캐터랩 대표 [사진=스캐터랩]
25일 이루다2.0 정식 출시 미디어데이에서 발표하고 있는 김종윤 스캐터랩 대표 [사진=스캐터랩]

김종윤 대표는 "이번 출시한 이루다 2.0은 단순히 '말을 잘하는 AI 챗봇'을 넘어서 누구나 행복한 삶을 사는 데 도움이 되는 AI 친구가 될 수 있도록, '관계를 쌓는 대화 능력'에 중점을 두었다"면서, "다음 라운드에서는 챗봇 비즈니르를 원하는 기업에 기술을 제공하는 B2B형태의 비즈니스 모델로 수익화를 준비할 것"이라고 밝혔다.

또 김 대표는 "내년 상반기 중 남자 페르소나를 가진 챗봇을 출시할 예정"이라면서, "자체 메신저 앱인 너티에 AI 에이전트를 지속적으로 추가해나갈 것"이라고 전했다.

/박진영 기자(sunlight@inews24.com)








alert

댓글 쓰기 제목 혐오발언 논란 '이루다', 1살 먹고 성숙한 모습으로 돌아왔다 [IT돋보기]

댓글-

첫 번째 댓글을 작성해 보세요.

로딩중
포토뉴스