"韓, AI 진짜·가짜 구별 못해"⋯외신이 본 한국 사회 위험한 변화는?

[아이뉴스24 설래온 기자] 한국 사회에서 생성형 인공지능(AI)이 빠르게 대중화하면서 가상과 현실의 경계가 흐려지고 있다는 외신 분석이 나왔다.

최근 홍콩 매체 사우스차이나모닝포스트(SCMP)는 '실재감 결핍: 한국은 어떻게 AI에 대한 현실 감각을 잃었나'라는 제목의 기사를 통해 한국 내 AI 콘텐츠 확산 현상을 조명했다.

매체는 생성형 AI 기술이 급속도로 퍼지는 반면, 이를 둘러싼 사회적 안전장치와 윤리 논의는 충분히 따라가지 못하고 있다고 진단했다.

SCMP가 대표 사례로 언급한 것은 최근 사회관계망서비스(SNS)에서 큰 화제를 모은 이른바 '야구장 여신' 영상이다. 프로야구 경기 관중석에 앉아 있는 여성의 모습을 담은 5초 분량 영상은 '평균적인 한국 여성' '한국 야구 여신' 등의 제목으로 퍼지며 조회 수 1600만회를 넘겼다.

하지만 해당 여성은 실제 인물이 아닌 AI가 생성한 가상 이미지였다. 일부 야구팬들은 전광판에 은퇴 선수와 현역 선수가 함께 등장한 점, '최강 두산' 대신 '최강은 두산'이라고 적힌 어색한 응원 문구 등을 근거로 AI 생성물이라는 사실을 찾아냈다.

AI 생성 콘텐츠가 단순한 재미를 넘어 공공 안전까지 혼란에 빠뜨린 사례도 소개됐다. 지난 4월 대전 오월드 늑대 '늑구' 탈출 소동 당시 SNS에는 늑대가 학교 앞 교차로를 배회하는 것처럼 보이는 이미지가 빠르게 확산했다.

해당 사진은 재난 대응 당국의 주민 대피 공문과 브리핑 자료에도 영향을 미쳤지만, 실제로는 생성형 AI로 만든 합성 이미지였던 것으로 드러났다. 이후 이를 제작한 40대 직장인은 공무집행방해 혐의로 경찰에 붙잡혔다.

매체는 한국이 이른바 'AI 슬롭(AI slop)' 소비가 가장 활발한 국가 중 하나라고 분석하기도 했다. AI 슬롭은 조회 수와 관심을 끌기 위해 대량 생산되는 저품질 AI 콘텐츠를 뜻한다. 글로벌 영상 편집 플랫폼 카프윙(Kapwing)에 따르면 한국 기반 AI 슬롭 유튜브 채널 11개의 누적 조회 수는 약 84억5000만회에 달하는 것으로 집계됐다.

지난 2024년 사회적 충격을 안긴 텔레그램 딥페이크 성범죄 사건도 언급됐다. 미성년자와 여성 얼굴을 합성한 불법 이미지가 대규모로 유포되며 생성형 AI의 악용 가능성이 현실적인 사회 문제로 떠올랐다는 설명이다.

김명주 한국AI안전연구소장은 SCMP와의 인터뷰에서 "외모와 이미지에 대한 문화적 관심이 높은 한국 사회에서 AI가 억눌린 욕망과 좌절을 대신 충족시키는 왜곡된 거울 역할을 하고 있다"며 "과도한 몰입은 현실 도피를 부추기고 삶의 만족도를 떨어뜨리는 악순환으로 이어질 수 있다"고 평가했다.