[아이뉴스24 박진영 기자] 인공지능(AI) 기술이 발전함에 따라 공공영역에서도 역할을 발휘하고 있다. 특히 AI의 데이터 학습능력을 기반으로 불법적인 행위를 잡아내거나 예방하는 데 활용되고 있다.
불법 촬영으로 인한 디지털 성범죄와 2차 피해 확산을 막을 수 있는 AI기술이 나왔다.
한국전자통신연구원(ETRI)은 AI를 활용해 영상물의 유해성을 분석·검출하는 기술을 개발했으며, 올해 검색대상을 인터넷 사이트로 확장하는 데 성공했다.
이 기술은 AI가 인터넷 사이트를 자동으로 검색하여 웹 페이지 음란성 여부를 판단한다. AI가 등록된 키워드로 웹페이지들을 검색하고 웹페이지 내 게시물을 분석해 유해성을 검출하는 방식이다.
ETRI가 개발한 AI 엔진은 프레임당 약 100만 회의 세부판단을 근거로 영상 간 유사도 비교를 수행한다. 콘텐츠 유해성을 판단하는 정확도가 99.4% 이상이고, 검출속도는 0.01초 이하를 달성, 기술 성능이 상당히 높은 수준이라고 연구원 측은 설명했다.
지난 6월부터 두 달간 진행된 시험기간 동안 피해영상물의 검색 키워드, 썸네일 이미지, 주소(URL) 등을 활용, 총 1만8천945건의 웹사이트를 자동 수집했으며 이 중 유해 사이트로 판별된 2천631개 웹사이트를 걸러내는 데 성공했다.
AI기술로 위조상품 모니터링 플랫폼 서비스를 제공해온 스타트업 마크비전이 불법 콘텐츠 모니터링 플랫폼(안티 파이러시 플랫폼)을 출시했다. 이를 통해 불법 콘텐츠를 24시간 자동 모니터링하고, 유출여부를 확인한 후 제거하는 작업을 지원한다.
마크비전이 자체 개발한 AI 모델에 기반해 설계된 이 플랫폼은 컴퓨터 비전 기반의 이미지 분석과 자연어처리(NLP) 시스템이 활용됐다. 불법 콘텐츠 웹사이트 데이터베이스(DB) 약 10만여개를 학습해 비교 분석했으며, 기술 정확도가 높은 편이라고 회사 측은 설명했다.
이 플랫폼은 서비스를 이용하는 사람이 콘텐츠의 불법 사용 현황은 물론, 유통 채널까지 확인할 수 있다. 사용자 인터페이스(UI)를 기존 위조상품 모니터링 플랫폼과 유사한 형태로 구성하고, 시스템을 통합 연동시켰다. 위조상품과 불법 콘텐츠 관련 서비스를 동시에 사용할 수도 있다.
마크비전은 이번 플랫폼이 가장 활발하게 사용될 것으로 예상되는 분야로 '웹툰·웹소설' 시장을 꼽았다. 주로 이미지와 텍스트로 구성된 콘텐츠 산업이다. 향후 적용 범위를 음악, 영상, 게임 등 각종 미디어 엔터테인먼트 영역으로 확대한다는 계획이다.
이인섭 마크비전 대표는 "물리적 상품을 보호할 수 있는 위조상품 모니터링 서비스에다 무형의 콘텐츠 자산까지 체계적으로 관리하는 플랫폼이 더해지면서, 다차원적인 IP 보호 시스템을 제공할 수 있게 됐다"고 말했다.
스팸 차단 서비스 사업자 후후앤컴퍼니는 '보이스피싱 탐지 솔루션'을 개발해 금융기관과 피싱 사기 예방에 나섰다.
'보이스피싱 탐지 솔루션'은 의심스러운 전화나 문자가 오면 사용자에게 직접 피싱 위험을 경고하는 종합 예방 솔루션으로, 특히 피싱범들의 목소리(성문) 분석에 AI 탐지 기능이 활용됐다. AI가 피싱범들의 목소리와 말투, 자주 사용하는 단어 등을 학습했으며, 이를 바탕으로 보이스피싱 여부를 판단한다.
후후앤컴퍼니는 이를 통해 지난해 12월 기준 일 평균 4천여 건의 피싱 사기 위험을 탐지했고, 이 중 1만 1천814건의 피해를 예방했다고 설명했다. 피해 예방액은 약 1075억 원이다.
이밖에 KB국민·신한·우리은행 등 주요 은행권에서 자체적으로 AI기반의 보이스피싱 시스템을 구축·운영하고 있으며, 금융사기 피해를 예방하는 성과를 거뒀다.
/박진영 기자(sunlight@inews24.com)
--comment--
첫 번째 댓글을 작성해 보세요.
댓글 바로가기