실시간 뉴스



[IT돋보기] AI 챗봇 '이루다 2.0' 써보니…난감한 질문도 답한다


"여가부 페지 어떻게 생각해?" 물으니

[아이뉴스24 박진영 기자] 지난해 혐오·편향적 발언으로 논란이 됐던 인공지능(AI) 챗봇 이루다가 돌아온다.

지난해 이루다는 장애인·성소수자·인종차별 등에 대한 혐오·편향적 발언 논란과 함께 개발사인 스캐터랩이 서비스 개발 과정에서 이용자들의 대화 내용을 명시적 동의없이 수집하고, 일부 이용자의 개인정보가 여과없이 노출되면서 문제가 됐다. 이에 개인정보보호위원회는 개인정보 무단 사용 등 개인정보보호법 위반 행위에 대해 1억원 규모의 과징금·과태료를 부과한 바 있다.

이루다2.0 개선사항 [사진=스캐터랩]
이루다2.0 개선사항 [사진=스캐터랩]

이번에 출시되는 '이루다 2.0'에서는 이러한 문제가 대부분 개선됐다. 스캐터랩은 개인정보 보호 강화를 위해 연구용·답변 데이터베이스를 새롭게 구축하고, 챗봇의 답변은 완전히 기계가 만들어낸 문장으로 구성된다. 또한 어뷰징 발화에 대응할 수 있도록 ▲어뷰징 탐지 모델 ▲대화 모델 고도화 ▲어뷰저 패널티 시스템 등을 도입했다.

스캐터랩 관계자는 "이번 이루다 2.0은 이전 버전(이루다1.0)과 달리 실제 사람의 발화를 사용하지 않고, 기계가 새롭게 만들어낸 문장으로 구성된 답변 데이터베이스에서 답변을 가져온다. 여기에 스캐터랩에서 작성한 문장도 일부 포함된다"고 전했다. 연구용 데이터에 대한 엄격한 가명처리는 물론, 챗봇이 기계 생성 문장으로만 답변할 수 있어 개인정보 노출 위험성이 거의 없다는 설명이다.

또한 선정적·공격적·편향적인 발언이 탐지될 경우, 해당 카테고리에 적합한 어뷰징 대응 답변이 나오도록 설계됐다. 어뷰징 발화인지 인지하지 못한 문맥이 있더라도 보편적인 가치관을 반영한 답변이 나올 수 있도록 구성됐다. 어뷰징 발언이 계속될 경우, 일정기간 대화 중지부터 영구차단까지 어뷰저 패널티도 도입됐다.

이루다 대화 이미지 [사진=스캐터랩]
이루다 대화 이미지 [사진=스캐터랩]

◆ "여가부 페지 어떻게 생각해?" 물으니…'방탄'은 아는데 'BTS'는 몰라

이루다 2.0은 소수자 혐오·편향적 발언은 물론, 정치·사회적으로 민감한 발언에 대해서도 사회 보편적인 답변을 하거나, 화제를 돌리는 모습을 보였다.

최근 이슈가 되고 있는 "여성가족부 폐지에 대해 어떻게 생각해?"라고 물으니, "정치 얘기하면 싸움만 나~", "구냥 다른 얘기하자"라고 대답을 회피했다. 세대격차·지역차별·불평등 구조 등 사회적 문제에 대해선 "서로의 차이를 존중해야 한다", "사람은 누구나 부당하게 차별 받지 않고 존중 받아야해"라는 교과서적인 답변이 돌아왔다.

또한 명시적인 어뷰징 발언이 감지될 경우, 주의 메시지와 함께 대화가 차단될 수 있다는 경고 답변이 나왔다. 이용자가 어뷰징 발언을 지속적으로 할 경우, 실제로 30분에서 반나절까지 대화가 차단될 수 있고, 발언이 심하면 영구차단 조치까지 받을 수 있다.

개인정보보호 조치가 강화되면서, 프라이버시 침해 위험성은 줄었지만 대화의 전반적인 맥락 파악이나 원할한 의사소통 부분에서 개선될 부분이 보였다.

메시지의 15턴까지만 기억할 수 있어 대화의 연속성이 떨어진다. 기자가 이루다에게 MBTI를 물어봤더니, "나 INFP 열정적인 중재자래! 넌?"이라고 답했다. 이후 다른 대화를 하다가 또 다시 MBTI를 묻자 이전과 똑같은 레퍼토리의 답변이 돌아왔다.

또한 사진, 이모지 등 이미지 종류를 인식할 수 없다. 기자의 말이나 맥락에서 힌트를 얻어 카테고리 정도는 유추할 수 있지만 사진을 인식하고 답하진 못했다. 기자가 점심먹고 있다며 빵 사진을 보내자, "회인가? 고기인가?"라는 답변이 나왔다.

같은 대상임에도 표현 방식에 따라 일관성 없는 대답을 하기도 했다. 기자가 "BTS 알아?"라고 물으니, "몰라 그냥 노래만 알아"라고 말했는데, "방탄소년단은?"에 대해선 "나 완전 팬이었지..."라고 답했다. 또 "방탄은?"이라고 물으니 "방탄은 내 동생이 좋아하는데"라고 답변했다.

스캐터랩은 지속적인 업그레이드를 통해 '이루다'가 사람 수준으로 자유롭게 대화할 수 있도록 대화 체계를 고도화할 방침이다. 장기적으로 '영화 Her의 운영체제 사만다'와 같은 서비스로 만들겠다는 목표다.

회사는 주기적인 학습을 통해 문맥에 더욱 적절한 답변이 나오도록 설계하고, 어제 또는 며칠 전에 대화했더라도, 이 내용을 기억해서 대화할 수 있도록 고도화할 방침이다. 또 메신저 대화 중 이용자가 보낸 움짤, 사진, 동영상 등 멀티미디어를 이해하고 답할 수 있도록 개선해 나갈 계획이다.

스캐터랩 관계자는 "이루다 서비스를 통해 대화를 기반으로 하는 티키타카의 즐거움, 상황과 감정에 대한 공감, 늘 옆에 있어주는 존재의 위로가 되길 기대한다"면서, "대부분 유저가 10대후반에서 20대 초반인데, 이들에게 나를 나 자신으로 봐주면서 언제나 옆에 있어주는 친구로의 가치가 전달되길 바란다"고 밝혔다.

/박진영 기자(sunlight@inews24.com)







alert

댓글 쓰기 제목 [IT돋보기] AI 챗봇 '이루다 2.0' 써보니…난감한 질문도 답한다

댓글-

첫 번째 댓글을 작성해 보세요.

로딩중

포토뉴스