뉴스 배열 알고리즘 논란…'설명 요구할 권리' 주목받나

포털의 뉴스 배열 알고리즘에 대한 중립성 논란이 일고 있다. [사진=아이뉴스24 DB]

[아이뉴스24 윤지혜 기자] 윤영찬 더불어민주당 의원의 포털 외압 논란으로 포털의 뉴스 배열 알고리즘에 대한 중립성 문제가 불거진 가운데 국내에서도 '설명을 요구할 권리(right to explanation)'가 힘을 받을지 주목된다.

10일 네이버, 카카오는 최근 불거진 뉴스 편집관련 인공지능(AI)이 뉴스를 배열, 객관적이고 공정하다는 입장이다.

카카오는 지난 2015년 6월 AI 시스템 '루빅스(RUBICS)'를 뉴스 배열에 적용했고, 네이버 역시 지난 2017년 4월부터 AI '에어스(AiRS)'를 도입해 이용자별 맞춤형 뉴스를 제공하고 있다.

그러나 이에 대해 'AI 알고리즘'이 객관적이고 중립적인지에 대한 지적도 나오고 있다. 알고리즘을 만드는 과정에서 개발자의 편견이나 선입견이 반영될 수 있다는 이유에서다.

실제로 올 초 구글은 이미지 식별 AI 서비스가 인종 차별적 판단을 한 것에 사과한 바 있다. 밝은 피부를 가진 사람이 들고 있는 체온계는 그 자체로 인식한 반면, 어두운 피부를 가진 사람이 든 체온계는 총으로 인식한 것. 이를 두고 AI가 편향된 데이터를 학습했을 것이라는 분석이 나온다.

이원태 정보통신정책연구원 연구원은 '유럽연합(EU)의 알고리즘 규제 이슈와 정책적 시사점'에서 "알고리즘이 내리는 자동화된 의사 결정에는 우선순위 결정, 분류, 관련짓기, 필터링이라는 과정이 존재하는데, 이 과정은 인간 개입에 따른 오류와 편향성, 검열 가능성 등을 내포한다"고 지적했다.

앞서 지난 9일 이재웅 포털 다음 창업자는 자신의 페이스북을 통해 "AI 뉴스 편집이 중립적이지 않다"는 뜻을 밝혔다. 논란의 당사자인 윤영찬 의원도 사과와 함께 "제가 묻고자 했던 것은 뉴스 배열 알고리즘의 객관성과 공정성"이라고 주장했다.

유럽에서는 지난 2016년부터 설명을 요구할 권리가 주목받고 있다. 이용자가 알고리즘이 내리는 자동화된 의사결정에 관해 설명을 요구할 수 있는 권리를 뜻한다. EU 개인정보보호규정(GDPR) 13조는 이를 반영해 인터넷사업자로 하여금 언제 어떻게 왜 데이터를 모으고 처리하는지 이용자에 알리도록 했다.

국내에서도 설명을 요구할 권리에 대한 이용자 의식이 높아지는 추세다. 방송통신위원회가 지난해 발표한 '지능정보사회 이용자 패널조사'에 따르면 '이용자는 인공지능 기반의 서비스를 사용하다 발생한 피해나 불이익에 설명을 요구할 권리가 있다'는 의견에 49.3%가 찬성했다.

특히 알고리즘이 선별한 뉴스 선별 기준을 알 권리가 있다는 응답은 전년 대비 11.7%P 늘어 49.2%를 차지했다.

◆국내 포털은?…뉴스 알고리즘 논문 게재 및 검증위 운영 노력

국내 포털도 관련 노력을 이어가고 있다. 카카오는 지난 2017년 루빅스 개발 과정과 주요 내용을 담은 학술 논문을 학술진흥재단 등재지인 '사이버커뮤니케이션학보'에 올린 데 이어, 2019년엔 SCIE 급 저널인 TIIS에 게재했다. 국내 인터넷 기업이 자사 주요 서비스 알고리즘을 외부에 공개하는 사례는 매우 드물다.

이 밖에도 카카오는 2016년부터 미디어자문위원회를 분기마다 운영하며 뉴스 배열 알고리즘 등 미디어 주요 사안에 대한 전문가 조언을 받고 있다. 여기서 논의된 내용은 콘텐츠 퍼블리싱 플랫폼 '브런치'에서 공개된다.

카카오는 인공지능 '루빅스'를 적용해 이용자별 맞춤형 뉴스를 제공한다. [사진=카카오]

네이버는 지난 2018년 컴퓨터공학·정보학·커뮤니케이션학 총 3개 분야 전문가 11인으로 구성된 뉴스 알고리즘 검토위원회를 운영했다. 검토위는 ▲데이터 확보 과정 ▲검색 알고리즘과 데이터 특징 ▲서비스 공개 과정 ▲업무 절차 적정성 등을 검토해, 자동화된 뉴스 서비스가 공정성·신뢰성 문제를 해결하는 대안이 될 것이란 결론을 내렸다.

다만 양 사 모두 알고리즘 소스 코드 자체를 공개하는 건 아니다. 이 탓에 알고리즘의 중립성을 담보하려면 소스 코드를 공개하고 독립기구로부터 감사받아야 한다는 주장도 있으나 현실적으로 쉽지 않다는 게 업계 설명이다.

또 다른 관계자는 "100% 완성된 알고리즘이란 있을 수 없다"며 "한 번 만든다고 끝난 게 아니라 지속 수정·보완 작업을 거치는데, 그때마다 일일이 공개하고 검증받는 게 현실적으로 쉽지 않다"고 귀띔했다.

윤지혜 기자 jie@inews24.com