'AI 워터마크' 사용 문제없나?…SK쉴더스 "다층적 대응 필요"

[아이뉴스24 박정민 기자] SK쉴더스는 자사 9월호 인사이트 보고서에서 딥페이크(불법 합성 영상물) 등 생성형 인공지능(AI) 콘텐츠의 보안 전략을 소개했다. 단일 기술로는 한계가 있는 만큼 다층적 대응이 필요하다는 내용이다.

9일 SK쉴더스에 따르면, 최근 한 인플루언서의 유튜브 영상이 AI로 무단 합성돼 온라인 게임 광고에 사용된 사실이 드러났다. 생김새와 표정, 손동작, 목소리까지 정교하게 모방해 실제로 인터넷 방송을 진행하는 것처럼 가짜 영상이 제작됐다.

중앙선거관리위원회에 따르면 대선 기간인 지난 4월 딥페이크 게시물 적발 건수만 1만 448건에 달했다. 방송통신심의위원회에 따르면 딥페이크 성범죄 영상물 삭제, 차단 요구는 2020년 473건에서 지난해 2만 3107건까지 폭증했다. 이에 정부는 생성형 AI 콘텐츠에 대한 '워터마크' 사용 의무화를 추진하고 있다.

'AI 워터마크'란 생성물에 출처 정보를 삽입해 진위 여부를 검증하는 기술이다. 기존 디지털 워터마크와 달리 공급망 전반에 걸쳐 추정이 가능해 불법 콘텐츠 확산 억제에 효과적이다. 아울러 내년 1월 시행되는 'AI 기본법'에도 워터마크 표시 의무가 규정돼 있어 이를 지키지 않으면 과태료 처분 등이 가능하다.

다만 현재 워터마크를 제거·변조하거나 이미지 재구축, 압축 변형이 가능한 기술이 등장해 우려를 낳고 있다. SK쉴더스는 최근 발표한 'EQST Insight 2025년 9월호-생성형 AI 콘텐츠 진위 검증을 위한 워터마크 기술의 현황' 보고서에서 AI 워터마크와 관련해 단일 기술에 의존하지 않는 다층적, 종합적 대응이 필요하다고 지적했다.

먼저 기술적 측면에서는 '인지 가능' 워터마크와 '인지 불가능' 워터마크를 동시에 적용하고, 블록체인 기반 기록으로 원본 생성 정보를 함께 확인해 변조 여부를 검증해야 한다고 설명했다. AI 탐지 알고리즘과 자동화 분석 도구로는 육안으로 식별이 어려운 조작, 변조를 탐지할 수 있다.

아울러 제도·문화적 측면에서는 국가, 플랫폼 간 워터마크 적용 방식을 표준화하고 책임 있는 콘텐츠 이용 문화를 확산하는 노력이 필요하다고 설명했다. 기업을 위해서는 생성형 AI 활용 현황을 관리하고 관련 법령, 지침을 상시 숙지하는 등의 노력이 필요하다고 조언했다.

SK쉴더스는 AI 전환기를 맞아 이와 관련된 기업의 위험을 관리하는 보안 컨설팅을 강화하고 있다. 생성형 AI 도입·활용 과정에서 발생하는 위험 요인을 진단하고, 관련 규제 대응과 내부 관리체계 구축 등을 지원한다. 업계 1위 보안 역량을 바탕으로 기업이 빠르게 변화하는 기술 환경 속에서 안정성·신뢰성을 확보할 수 있게 노하우를 공유한다.

SK쉴더스 관계자는 ＂국내사이버보안 1위 기업으로서 다년간 축적한 역량을 바탕으로 안전하고 책임 있게 AI를 활용할 수 있는 환경을 구축하겠다＂고 밝혔다.