제논, AI 가드레일 솔루션 '젠가드' 출시

[아이뉴스24 최효경 기자] 제논(대표 고석태)은 생성형 인공지능(AI) 서비스의 보안 위협에 대응하고 기업별 보안 정책을 체계적으로 관리할 수 있는 AI 가드레일 솔루션 '젠가드(GenGuard)'를 출시한다고 26일 밝혔다.

기존 생성형 AI 플랫폼 '제노스(GenOS)'에 탑재된 가드레일 기능을 운영하며 쌓은 경험을 바탕으로 출시한 독립 솔루션 '젠가드'는 AI 서비스에 입력되는 요청과 생성된 응답을 기업이 설정한 정책에 따라 판정하고 차단하는 제품이다. 제노스 도입 여부와 관계없이 다양한 기업 환경과 보안 요구사항에 맞춰 활용할 수 있다.

핵심은 복잡한 모델 재학습 없이 자연어만으로 서비스별 보안 정책을 설정할 수 있다는 점이다. 금융 서비스에서 '개별 종목 추천은 차단한다'는 정책을 입력하면 해당 기준에 따라 AI의 요청과 응답을 판정해 통제하는 방식이다.

주민등록번호와 계좌번호, 카드 정보 등 정형화된 개인정보는 물론 이름과 주소처럼 일정한 형식이 없는 정보도 AI가 문맥을 분석해 탐지한다. 새로운 정책을 적용하기 전 관찰 모드에서 차단 결과와 업무 영향을 확인하고, 오탐 사례를 분석해 기준을 조정할 수도 있다.

자체 경량 가드레일 모델도 공개

제논은 제품 출시와 함께 자체 기술력을 바탕으로 개발한 경량 공개 모델 '젠가드 1.0 라이트(GenGuard 1.0 Light)'와 한국어 서비스 정책 평가 데이터셋 'KSPG-벤치(Bench)'도 선보였다. GenGuard 1.0 Light는 공개 가드레일 모델 5종과의 비교 평가에서 평균 84.3점으로 1위를 기록했으며, 한국어 안전성·공격 탐지·긴 문서 판정 항목에서도 가장 높은 성능을 보였다.

제논은 이번 젠가드 출시를 토대로 기업용 생성형 AI 플랫폼 구축에 이어 AI 보안 솔루션으로 사업 영역을 확장할 계획이다. 특히 금융·공공 등 높은 수준의 정보 보호와 내부 통제가 요구되는 산업을 중심으로 도입을 확대하고, 다양한 산업 현장에서 축적한 기술력과 경험을 바탕으로 기업용 AI 보안 시장에서 입지를 강화한다는 방침이다.

명대우 제논 부사장(CTO)은 "제논은 기업용 AI 플랫폼을 구축하며 축적한 기술력과 산업별 경험을 바탕으로 변화하는 보안 요구에 선제적으로 대응하고, 국내 기업 환경에 최적화된 AI 보안 기술로 시장을 선도해 나가겠다"고 말했다.