네이버, AI 안전성 체계 'ASF 2.0' 공개⋯안전성 점검 범위 확대

[아이뉴스24 정유림 기자] 네이버는 이용자의 안전한 인공지능(AI) 서비스 경험까지 관리 범위를 확장한 AI 안전성 체계 'ASF 2.0'을 8일 공개했다.

ASF 2.0은 네이버가 지난 2024년 AI 서울 서밋에서 공개한 ASF를 최신화하고 이용자 보호 측면까지 확장된 개념을 담은 체계다. AI 기술 모델의 성능과 위험 수준을 중점적으로 관리해왔던 기존 체계의 안전성 관리 범위를 확대하고 이용자가 실제로 경험하는 서비스를 중심으로 안전성을 관리한다는 점이 핵심이다.

ASF 2.0은 AI를 이용자와 서비스 관점에서 안전하게 관리하는 것을 목표로, AI 서비스 출시부터 운영 전반에 이르는 모든 단계에서 안전성을 관리하게 된다. 이를 위해 기존 AI의 기술 모델을 중심으로 삼았던 관리 범위를 멀티 모델 환경 기반의 AI 서비스로 확장하고 성능 중심의 단일 평가 기준도 맥락과 활용 사례, 영향 등으로 세분화했다.

구체적으로 AI 위험 분류 체계에 따라 AI 서비스에서 발생할 수 있는 위험을 유형화하고 AI 영향 평가 매트릭스에 따라 활용 영역·범위에 따른 예상 영향을 평가한다. 이 체계를 바탕으로 지속적인 안전성 평가와 이용자 피드백 등을 통해 AI 서비스를 꾸준히, 안전하게 쓸 수 있도록 관리하게 된다. 서비스 출시 과정에서 ASF 2.0이 일관되게 적용될 수 있도록 돕는 전사적 실행 체계(CHEC 2.0)도 마련했다.

네이버는 이날 서울 강남구 아이티스퀘어에서 열린 인공지능 안전 서울 포럼(SFASS)에서 ASF 2.0의 방향성과 구성 요소, 강화된 분류·관리·실행 체계, 향후 활동 계획에 대해 발표했다.

이날 포럼에서 송대섭 네이버 AI 안전 정책 리더는 ASF 2.0에 △대화형 검색 서비스 AI탭, 이용자의 쇼핑을 돕는 쇼핑 AI 에이전트 등 고도화 중인 네이버의 '온서비스 AI' 전략 △전 세계 AI 생태계에서 멀티 모델 환경의 확산 △AI 기본법 제정 등 정책·제도 환경의 변화 등이 다각적으로 반영됐다고 설명했다.

송 리더는 "앞으로도 AI 안전성에 대한 경험과 노하우를 축적해가며 학계, 정책, 외부 전문가 그리고 다양한 기관과의 협업을 통해 이를 공유하고 발전시켜 나갈 것"이라고 밝혔다.