'이루다' 서비스 중단한 스캐터랩 "알고리즘 전면 개선"

[아이뉴스24 김국배 기자] 인공지능(AI) 챗봇 '이루다' 서비스의 잠정 중단을 선언한 스캐터랩이 개인정보 보호를 강화하겠다고 밝혔다.

스캐터랩은 향후 개인정보 보호를 위해 데이터 알고리즘을 업데이트하겠다고 12일 발표했다.

이에 따라 스캐터랩은 향후 실명 필터링 알고리즘을 강화해 민감할 수 있는 정보가 노출되지 않도록 할 계획이다. 한글로 작성된 주소라도 노출되지 않도록 주소 필터링 알고리즘을 업데이트하며, 대화 데이터 랜덤 변형을 통한 비식별화 조치도 강화할 예정이다.

회사 측은 "민감 정보 노출 방지 알고리즘을 전면적으로 개선해 개인정보 보호를 강화할 것"이라고 했다.

스캐터랩은 서비스 출시 이전부터 비식별화 조치를 취해왔다. 주소·계좌번호 등 개인정보가 포함될 수 있는 가능성을 제거하기 위해 숫자와 영문이 포함된 메시지를 삭제하고, 특정 단어가 실명인지 판단하는 알고리즘을 이용해 실명이 들어간 문장을 삭제했다.

그럼에도 이용자들 사이에서는 대화 내용 중에 은행 이름, 인물명이 등장한다는 지적이 있었다.

이에 대해 스캐터랩 측은 "(이루다 DB에 있는) 1억 건의 개별 문장을 사람이 일일이 검수하기는 어렵기 때문에 알고리즘을 통한 기계적인 필터링을 거쳤으나, 문맥에 따라 인물 이름이 남아 있거나 하는 부분이 발생했다"며 "해당 사항에 대해 더욱 세심히 주의를 기울이지 못한 점 사과드린다"고 했다.

이루다의 경우 DB에 수록된 1억개의 문장에서 가장 적절하다고 판단되는 답변을 선택해 응답하도록 설계돼 있다. 이용자와 주고받은 10회의 대화 기록을 바탕으로 다음 답변을 선택하는 법을 학습했다고 한다. 그렇기 때문에 이전 대화의 맥락, 표현, 분위기, 말투, 대화 내용에 크게 영향을 받는다.

회사 측은 "이루다가 답변에서 어떤 감정과 컨텍스트를 가지고 갈 것인지는 사용자의 과거 대화 기록(10회)에 달려 있으며, 사용자와 비슷한 표현을 사용하려는 경향이 있다"고 설명했다.

스캐터랩은 이날 오전 11시부터 순차적으로 이루다 서비스 중단에 들어갔다. 오후 6시를 기점으로 이루다 서비스는 완전 중단된다. 이후 현재 제기되는 문제점 등 개선사항을 완비해 서비스를 재개할 계획이다.

김국배 기자의 다른 기사 보기

• AI '이루다' 결국 서비스 잠정 중단…"개선 기간 갖겠다"

• 이재웅 "'이루다' 논란, AI 윤리 고민 기회 삼아야" 일침