[아이뉴스24 정유림 기자] 카카오는 스스로 과업을 수행하는 자율 인공지능(AI) 에이전트의 확산에 대응하고자 AI 서비스 기획부터 운영까지 적용할 AI 윤리 원칙과 이행 가이드를 마련했다고 15일 밝혔다.
카카오가 마련한 원칙은 △안전(Safety) △프라이버시(Privacy) △포용(Inclusivity) △책임(Responsibility) △이용자 주체성(Individual Autonomy) △투명성과 신뢰성(Transparency & Trustworthiness) 6가지로 구성된다. 각각의 앞 글자를 따 스피릿(SPIRIT)이라는 이름을 붙였다. 대한민국 인공지능 윤리원칙의 3대 가치와 7대 원칙을 주요 이행 기준으로 채택하고 카카오 서비스에 맞게 세부 내용을 보완한 것이 특징이다.
수립한 원칙을 실질적 이행으로 옮기는 방식(NORMA)도 정의했다. 공동 책임에 대한 조직적 의지를 바탕으로 복잡한 윤리 과제를 관리 가능하고 실행 가능한 단계로 구체화한다는 의미다.
이번 윤리 원칙과 이행 가이드는 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7명과 함께 마련한 것이다. 자문단은 독립적인 검토를 통해 국내외 규범과의 정합성을 점검했고 카카오에서는 AI 세이프티, 개인정보, 정보보안, 서비스 등 관련 부서가 실무 관점에서 검토해 현장 적합성을 높였다.
카카오는 자율 에이전트(AI가 다단계 작업을 스스로 연속 수행) 리스크를 △통제 주도권 △목표 △권한 △참조 자원 △상호작용의 5대 관리 영역으로 나누고 인간 감독과 비상 제어, 권한 통제, 데이터 보호 등 필요한 통제를 연결했다. 이를 바탕으로 만들어진 AI 윤리 이행 체크리스트는 서비스 속성 파악, 사전 리스크 스크리닝, 통제 항목 점검·판정, 3단계로 운영된다. 체크리스트는 연내 적용할 예정이다.
아동·청소년 보호를 위한 점검도 강화한다. 카카오는 2025년부터 적용해 온 디지털 아동·청소년 보호 체크리스트에 더해 경제협력개발기구(OECD)와 유니세프의 아동 온라인 리스크 분류 체계(5Cs)를 참고한 AI 특유의 아동 리스크 점검 요소를 새 체크리스트에 반영할 계획이다.
김세웅 카카오 AI&기술윤리소위원회 위원장은 "AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 갈 것"이라고 밝혔다.
/정유림 기자(2yclever@inews24.com)