"음란물 악용 가능성" AI가 만든 아이돌 위험성은?

[아이뉴스24 최란 기자] K팝 걸그룹 멤버 사진을 도용해 학습시킨 AI 모델 데이터가 온라인상에 유포되면서 수익 창출이나 음란물 제작에 악용될 수 있다는 우려가 나온다.

27일 업계와 법조계 등에 따르면 생성형 인공지능(AI) 모델 공유 사이트 시빗AI(CivitAI)에는 이용자들이 뉴진스, 르세라핌, 아이브, 에스파, 트와이스 등과 같은 K팝 걸그룹 멤버의 이미지를 학습시킨 데이터가 올라와있다.

게시된 파일들은 지난해 스테빌리티AI가 오픈소스로 공개한 이미지 합성 AI '스테이블 디퓨전'(Stable Diffusion)에 적용해 딥페이크 이미지를 생성할 수 있는 AI 모델이다.

스테이블 디퓨전의 모델은 크게 전반적인 화풍을 결정하는 핵심 모델 '체크포인트'와 인물의 얼굴·자세 등을 결정하는 보조 모델 'LoRA'(Low-Rank Adaptation)로 나뉜다.

이 중 실존 인물 딥페이크 제작에 주로 쓰이는 LoRA는 용량이 수십수백 메가바이트(MB)에 불과하고 제작이 상대적으로 쉬워 시빗AI 같은 사이트나 온라인 커뮤니티에서 쉽게 공유된다.

일반인도 집 PC에서 오프라인으로 구동할 수 있어 이러한 AI 모델이 수익 창출이나 음란물 제작에 악용될 수 있다는 점이 문제로 꼽히고 있다.

유튜브에는 이미지 생성 AI로 만들어낸 여성 이미지를 이용한 'AI 룩북' 콘텐츠가 성행하고 있고 일부 이용자들은 AI가 생성한 음란물을 판매한다.

연예인이나 인플루언서의 초상권을 침해한 AI 모델로 창작물을 만들어 수익을 낼 경우 민형사상 책임을 질 수 있다.

부정경쟁방지법 2조는 '국내에 널리 인식되고 경제적 가치를 가지는 타인의 성명, 초상, 음성, 서명 등 타인을 식별할 수 있는 표지를 무단으로 사용함으로써 타인의 경제적 이익을 침해하는 행위'를 부정행위로 간주한다.

성폭력처벌법 14조의2도 '사람의 얼굴·신체 또는 음성을 대상으로 한 촬영물·영상물·음성물'과 이에 따른 '편집물·합성물·가공물·복제물'을 당사자의 의사에 반해 유포한 사람에 대해 5년 이하의 징역 또는 5000만원 이하의 벌금에 처하도록 하고 있다.

K팝 업계는 소속 아티스트의 이미지를 활용한 AI 모델 배포에 대응 방안을 고민하고 있다.