[아이뉴스24 최효경 기자] 아이티센그룹은 인공지능(AI) 가드레일 통합 보안 솔루션 '에이전트고 가드(AgentGo Guard)'를 출시했다고 1일 밝혔다.
'에이전트고 가드'는 독립형(standalone) 보안 플랫폼으로, 기업 및 공공기관의 안전한 생성형 AI 도입과 에이전트 생태계 구축을 지원한다. 기업이 이미 구축한 AI 에이전트·RAG 환경에도 연동할 수 있어 개별 기업의 AI 인프라 구성과 관계없이 보안 계층을 추가할 수 있는 점이 특징이다.
핵심 기능은 다층 방어 및 적대적 공격(Adversarial Attack) 방어 체계다. 금칙어 및 정규식 필터링부터 자연어 기반 문맥 분석, 대형언어모델(LLM) 기반 가드레일까지 다단계 탐지 체계를 구동하며, 대화를 여러 차례 반복하며 방어망을 무력화하는 '에코 챔버(Echo Chamber)' 공격 및 지능적인 우회·탈옥 시도를 세션 단위에서 실시간으로 식별하고 차단한다.
한국어 및 글로벌 표준에 특화된 정보유출방지(DLP) 기능도 탑재했다. 금융결제원 CMS 계좌번호 체계(17종)와 국토교통부 차량번호 정규식을 지원하며, 한국정보통신기술협회(TTA) 대분류(15종), 미 국립표준기술연구소(NIST), EU 일반개인정보보호법(GDPR) 기준을 준수하는 자연어 처리 모델을 통해 한국인 이름, 주소, 주민등록번호 등 민감정보를 정교하게 비식별화(마스킹) 처리한다.
정승모 아이티센글로벌 AI이노베이션센터장은 "에이전트고 가드는 AI의 비윤리적·혐오적 표현, 프롬프트 인젝션, 기밀 유출, 환각 현상으로 인한 거짓 정보를 사전에 통제하는 엔터프라이즈 AI의 핵심 방어선"이라며 "기업들이 리스크 없이 안전하게 AI 생산성을 극대화할 수 있도록 적극 지원할 것"이라고 말했다.
/최효경 기자(hyomirror@inews24.com)