과기정통부, 앤트로픽과 맞손…AI 안전·보안 협력 강화

[아이뉴스24 서효빈 기자] 과학기술정보통신부는 글로벌 인공지능(AI) 기업 앤트로픽과 AI 안전성 확보과 사이버보안 분야 협력을 위한 업무협약(MoU)을 체결했다고 18일 밝혔다.

이번 협약에 따라 양측은 AI가 사이버 공격과 방어에 미치는 영향을 분석하고 한국어 환경에서의 AI 모델 안전성과 오남용 위험 평가, 자율형 AI 에이전트에 대한 레드팀 평가 등 첨단 AI 안전성 확보를 위한 협력을 추진한다.

이번 협약은 배경훈 과기정통부 장관이 지난 2월 열린 '2026 인도 AI 영향 정상회의'에서 다리오 아모데이 앤트로픽 최고경영자(CEO)와 논의한 협력 방안의 후속 조치다.

앤트로픽은 이번 협약에 맞춰 지난 17일 한국 사무소를 공식 개소했다. 일본, 인도, 호주에 이어 아시아 지역 네 번째 거점이다. 과기정통부는 이를 통해 한국이 글로벌 AI 기업의 전략적 거점으로 자리매김하고 있다고 평가했다.

정부는 이번 협약으로 엔비디아, 오픈AI, 구글 딥마인드에 이어 앤트로픽까지 글로벌 AI 선도 기업과의 협력 체계를 구축하게 됐다. AI 인프라와 모델, 연구개발, 안전 분야를 아우르는 협력 네트워크를 강화한다는 구상이다.

이도규 과기정통부 정보통신정책실장은 협약 체결 후 크리스 차우리 앤트로픽 글로벌 총괄과 만나 AI 안전과 사이버보안 분야 협력 방향을 논의했다. 양측은 한국 AI안전연구소(AISI)와 앤트로픽 간 AI 모델·자율형 AI 에이전트 안전성 평가 협력을 추진하기로 했다. 금융 분야 등을 포함한 AI 취약점 발굴과 사이버 위협 정보 공유 협력도 확대할 계획이다.

이도규 정보통신정책실장은 "향후 2~3년은 글로벌 AI 패권 경쟁의 골든타임"이라며 "앤트로픽과의 협력은 안전과 보안을 기반으로 한국 AI 혁신의 역동성을 높이는 계기가 될 것"이라고 말했다.

크리스 차우리 앤트로픽 글로벌 총괄은 "한국은 아시아태평양 지역에서 가장 중요한 시장 중 하나"라며 "안전하고 책임감 있는 AI 개발이라는 가치를 공유하는 한국 정부와 협력을 확대해 나가겠다"고 밝혔다.