[아이뉴스24 정유림 기자] 인공지능(AI)을 활용한 콘텐츠가 빠르게 확산하는 가운데, 네이버가 쇼핑 방송 사업자를 대상으로 AI 활용 여부를 소비자에게 안내할 것을 당부했다. 최종적으로 상품 구매 결정으로 이어지는 쇼핑 서비스 특성상 AI 콘텐츠가 자칫 소비자를 오인시킬 여지가 있는 만큼 혼선을 최소화하기 위한 조치다.
9일 네이버에 따르면 최근 실시간 영상(방송)으로 상품을 소개하고 소비자와 소통하며 판매하는 서비스인 쇼핑라이브 사업자를 대상으로 이러한 내용의 AI 기반 콘텐츠 이용 정책을 알렸다. 이 정책은 오는 2월 7일 이후에 적용할 예정이나 본격적인 시행에 앞서 준비 기간을 두고 운영하기 위해 사전에 알린 것이다.
이 정책에 따라 사업자는 AI로 생성하거나 편집한 콘텐츠(이미지·영상·사진 등)를 사용하는 경우, 시청 화면에 AI 콘텐츠라는 점을 표기해야 한다. AI로 생성·편집한 콘텐츠는 시청 화면에 지속적으로 'AI 생성 콘텐츠'임을 안내할 것을 당부했다. AI로 생성한 가상 인물의 얼굴·음성 사용 시 실제 인물이 아님을 명확히 안내해야 한다는 점도 포함됐다. 이는 라이브(실시간) 방송, 숏클립(짧은 영상) 등 콘텐츠 유형과 관계없이 동일하게 적용한다는 방침이다.
네이버 관계자는 "이번 정책 안내는 시청자 보호와 서비스 신뢰도를 강화해 소비자가 오인이나 이용 불편이 없도록 하기 위한 목적"이라며 "우선은 AI를 활용해 만든 콘텐츠가 있을 경우, 사업자(판매자)가 이를 직접 표기하되 더 편리하게 표기할 수 있도록 하는 기능을 개발 중이며 향후 적용할 예정"이라고 설명했다.
AI를 활용하면 쉽고 빠르게 콘텐츠를 만들 수 있지만 사실을 왜곡하고 과장·허위인 내용을 남발하는 데 대한 우려도 제기되고 있다. 최근에는 AI로 '가짜 의사'를 만드는 과장광고가 식·의약품 분야로 확산하는 문제도 지적됐다. 이에 정부는 지난해 12월 이런 내용이 실제가 아니라는 점을 소비자가 명확히 인식하도록 플랫폼에 AI 생성물 표시 의무를 부여하는 내용을 포함한 'AI 등을 활용한 시장 질서 교란 허위·과장광고 대응 방안'을 발표한 바 있다.
네이버 역시 이번 정책을 공지하면서 AI 사용 제한 상품과 콘텐츠에 해당하는 부문으로 의료기기, 건강식품 전반을 명시했다. 이밖에 허가 없이 공인·연예인·유명인 등을 AI로 생성 또는 모사한 콘텐츠, 정치나 종교·재난 등 사회적 민감 이슈 관련 콘텐츠 등도 AI 활용을 자제할 것을 당부했다. 이러한 정책을 준수하지 않을 시 콘텐츠 미노출, 권한 제한 등 서비스 이용에 제한이 적용될 수 있다고 덧붙였다.
이보다 앞서 네이버는 블로그, 카페, 네이버TV, 클립(숏폼·짧은 영상) 서비스에 AI 기술을 활용해 생성되거나 편집된 콘텐츠가 포함된 경우, 작성자가 이를 표시해 알릴 수 있도록 'AI 활용 설정' 기능을 도입했다.
네이버 관계자는 "AI 생성·수정 여부를 감지하는 기술에 대한 연구개발이 진행 중이지만 모든 AI 활용 콘텐츠를 정확히 식별하는 건 여전히 어려운 상황"이라며 "쇼핑과 비교하면 창작의 영역과 가까운 이용자 제작 콘텐츠(UGC)·커뮤니티 서비스 특성을 고려해 작성자가 AI 활용 여부를 표시할 것을 권장하고 있으며 서비스 전반에 걸쳐 (AI 활용과 관련해) 추가로 할 수 있는 부분에 대해서도 꾸준히 살펴보고 있다"고 했다.
/정유림 기자(2yclever@inews24.com)
--comment--
첫 번째 댓글을 작성해 보세요.
댓글 바로가기