이재웅 "'이루다' 논란, AI 윤리 고민 기회 삼아야" 일침


"AI가 차별·혐오 조장하는지 사회적으로 점검해야"

[아이뉴스24 윤지혜 기자] 이재웅 전 쏘카 대표가 차별·혐오 발언 논란을 빚은 인공지능(AI) 챗봇 '이루다' 서비스 중단에 대해 환영의 뜻을 나타내며, 이번 논란을 계기로 AI 윤리에 대해 다시 한 번 생각해야 한다고 지적했다.

12일 업계에 따르면 이 전 대표는 전날 오후 11시 20분께 자신의 페이스북에 "이루다의 빠른 서비스 중단 후 개선 결정 잘했다"라며 "훌륭한 기술력을 가지고 있는 회사여서 조만간 개선된 서비스를 선보일 것"이라고 글을 올렸다.

이어 "AI를 공공에 서비스할 때 사회적 책임, 윤리에 대해 다시 생각해보고 여러가지를 재점검하는 기회가 돼야 한다"라며 "이런 문제가 회사 지배구조의 다양성 부족이나 회사 구성원의 젠더·인권 감수성 부족에서 온 건 아닌지 점검하고 보완해야 한다"고 덧붙였다.

이재웅 전 쏘카 대표가 AI 챗봇 '이루다' 서비스 중단에 환영의 뜻을 나타냈다.

이 전 대표는 AI가 인간에 대한 차별이나 혐오를 조장하는지도 살펴봐야 한다고 강조했다.

그는 "이루다를 계기로 AI 챗봇, 면접·채용, 뉴스추천 등이 인간에 대한 차별, 혐오를 조장하고 있는 것은 아닌지 사회적으로 점검해야 한다"며 "포괄적 차별금지법 제정 등을 통해 AI를 학습시키는 인간의 규범과 윤리도 보완해야 한다"고 지적했다.

앞서 이 전 대표는 지난 10일에도 이루다 제작사인 스캐터랩이 서비스를 중단해야 한다고 권고한 바 있다. 이용자들이 AI 챗봇을 성적 대상화한 것도 문제지만, 이루다가 여성·동성애·장애인에 대한 차별·혐오 발언을 일삼은 게 더 큰 문제라는 판단에서다.

이 전 대표는 "범용 서비스를 제공하는 기업의 경영진이라면 이런 문제가 지적됐을 때 납득할 만큼 수정을 할 수 없다면 사과하고 서비스를 중단하는 것이 답"이라며 "성적 악용 부분은 학습을 통해 바로잡아 나갈 수 있지만, 차별과 혐오는 잠시라도 있어선 안 된다"고 말했다.

한편, 스캐터랩은 이날부터 이루다 서비스를 잠정 중단한다.

스캐터랩은 "혐오·차별 표현과 관련해 지난 6개월간 베타 테스트를 진행하며 필터링 등의 조치를 취했다"라며 "기존에 알려진 사례는 이미 개선됐고, 새롭게 발견되는 표현과 키워드를 추가해 차별·혐오 발언이 발견되지 않도록 지속적으로 개선 중"이라고 설명했다.

개인정보 유출 의혹에 대해서는 "데이터 활용 시 비식별 및 익명성 조치를 취해 개인을 특정할 수 있는 정보는 유출되지 않았다"라며 "일정 시간 서비스 개선 기간을 가져 더 나은 이루다로 찾아뵐 것"이라고 말했다.

윤지혜 기자 jie@inews24.com







포토뉴스