[아이뉴스24 안세준 기자] 빅데이터 분석 AI 기업 S2W(대표 서상덕)는 다크웹과 텔레그램, 해킹 포럼 등에서 수집한 실제 대규모언어모델(LLM) 공격 기법과 오펜시브 보안 역량을 활용해 AI 서비스 취약점을 점검한다고 30일 밝혔다.
S2W는 국제 비영리 보안단체 '오픈소스 웹 애플리케이션 보안 프로젝트'(OWASP)가 제정한 'OWASP Top 10 for LLM'을 기본 기준으로 활용하고, 산업별 특성을 반영한 추가 진단 항목도 적용한다.
진단 대상은 모델과 프롬프트, 데이터, AI 에이전트 등 AI 서비스를 구성하는 전반적인 요소다. 공격자의 악용 가능성을 검증한 뒤 구체적인 개선 방안도 함께 제시한다.
S2W는 AI가 기업 핵심 시스템과 서비스에 빠르게 도입되면서 기존 보안 체계만으로 대응하기 어려운 위협이 늘고 있다고 사업 확대 배경을 설명했다.
회사는 최근 국내 대형 금융사의 AI 서비스 취약점 진단 사업도 수주했다. 금융권의 보안 기준과 규제 환경을 반영해 진단을 수행하고 있다. 향후 AI 도입이 확대되는 다른 산업으로 사업 범위를 넓힐 계획이다.
양종헌 S2W 통합분석실장은 "AI 서비스 잠재적 위험을 사전에 찾기 위해서는 AI 기반 점검과 공격자 관점의 검증이 함께 이뤄져야 한다"며 "기업이 AI 서비스를 안전하게 도입하고 운영할 수 있도록 실효성 높은 진단 서비스를 제공하겠다"고 말했다.
/안세준 기자(nocount-jun@inews24.com)