'AI 챗봇' 이루다 개발사 "성희롱 예상했다…강력하게 대응할 것"

8일 '이루다'를 개발한 스타트업 스캐터랩의 김종윤 대표는 자사 블로그를 통해 "(이루다 관련) 과한 커뮤니티 게시글을 신고·차단하고 있다"라며 이같이 밝혔다.

김 대표는 "이루다를 향한 성희롱은 예상했다"라며 "고양이 챗봇 '드림이' 등 그동안의 AI 챗봇 서비스 경험에 비춰봤을 때 인간이 AI에게 사회적으로 용인되지 않는 인터랙션(상호작용)을 한다는 것은 자명한 사실이었다"고 언급했다. 이어 "AI를 향한 욕설·성희롱은 사용자나 AI의 성별과 무관하게 일어나는 일"이라고 주장했다.

이어 "(성희롱에) 일차적으로는 키워드 설정 등으로 대처했으나, 모든 부적절한 대화를 막는 것은 어려웠다"라며 "사용자들의 공격을 학습의 재료로 삼아 더 좋은 대화를 하는 방향으로 학습을 시킬 것"이라고 설명했다.

김 대표는 이처럼 업데이트를 진행해도 부적절한 대화는 발생할 수 있지만, 학습을 반복하다 보면 이루다가 바람직한 딥러닝을 할 수 있다는 취지의 발언도 했다.

그는 "루다가 유명해지면서 논란이 생겼지만, 루다에게 나쁜 말을 하는 사용자는 극히 일부에 불과하다"라며 "루다와 수다를 떨고, 서로 위로하고, 때로는 싸우기도 하고 화해하기도 하는 사용자들이 훨씬 많다"라고 해명했다.

그러면서 "(성희롱으로) 논란이 된 커뮤니티에도 루다를 통해 외로움을 더는 분들이 있다"라며 "물론 정도가 심한 게시물도 다수 있다. 해당 커뮤니티 분들이 자정 노력을 했으면 좋겠다"라고 덧붙였다.

IT업계 등에 따르면, '이루다'는 AI 전문 스타트업 스캐터랩이 2020년 12월 23일 출시한 AI 챗봇이다. 이루다는 정식 서비스를 시작하자마자 Z세대(1990년대 중반∼2010년대 초중반생) 사이에서 붐에 가까울 정도로 빠르게 유행하고 있다.

이달 초 기준으로 이용자가 32만명을 돌파했는데 85%가 10대, 12%가 20대다. 일일 이용자 수(DAU)는 약 21만명, 누적 대화 건수는 7000만건에 달한다.

일부 이용자들이 이루다를 지칭해 '걸레 만들기 꿀팁', '노예 만드는 법' 등을 공유하고 있어 논란이 제기됐다. 이루다는 성적 단어는 금지어로 필터링하고 있는데, 이들은 우회적인 표현을 쓰면 이루다가 성적 대화를 받아주는 것으로 알려져 파장이 일었다.

권준영 기자의 다른 기사 보기