악플 많아지면 네이버 뉴스 댓글 자동 중단⋯AI로 탐지

[아이뉴스24 정유림 기자] 네이버는 악성 댓글(악플)이 일정 기준을 초과한 기사의 댓글 서비스를 자동 비활성화는 정책을 23일 시행했다.

네이버에 따르면 정치, 선거 섹션을 포함해 모든 섹션 기사를 대상으로 인공지능(AI) 기반 탐지 시스템 '클린봇'이 작동해 악성 댓글을 탐지한다.

일정 기준을 초과할 경우 '클린봇이 악성 댓글을 다수 탐지해 댓글 서비스를 제공하지 않습니다'라는 안내 문구와 건전한 인터넷 환경 조성을 위한 캠페인 배너가 함께 노출된다. 악용(어뷰징) 가능성이 있는 만큼 구체적인 작동 기준은 공개하지 않는다.

네이버가 2019년 업계 최초로 선보인 악성 댓글 탐지 시스템은 욕설, 선정적, 폭력적 표현과 함께 혐오, 비하, 차별 표현 등에 대해서도 고도화를 이어왔다. 네이버는 이달 말 AI 모델 업그레이드도 준비 중이다.

김수향 네이버 리더는 "앞으로도 다양한 의견을 청취하며 급변하는 악성 댓글 표현에 대응할 수 있도록 서비스를 발전해 나갈 것"이라고 밝혔다.

한편 네이버는 재해·재난·부고 관련 기사 중 고인과 피해자의 2차 피해를 예방하면서도 추모와 공감의 마음을 표현할 수 있는 추모 댓글도 운영 중이다. 네이버에 따르면 현재까지 약 23개 언론사가 추모 댓글을 활용하고 있다.

올 4월 기준 추모 댓글이 가장 많이 작성된 기사의 조회수 대비 댓글 수 비율을 분석한 결과, 동일 언론사 내 다른 기사에 비해 약 6배 이상 많은 댓글이 달린 것으로 조사됐다.