"AI 해킹, 문제 걷잡을 수 없이 커진다"…정부, 연내 '국가 AI 안전 생태계' 만든다

[아이뉴스24 서효빈 기자] 배경훈 부총리 겸 과학기술정보통신부 장관이 "AI(인공지능)에 대한 해킹 공격이 시작된다면 문제가 걷잡을 수 없이 커질 것"이라며 "산업 진흥뿐 아니라 안전한 활용을 위한 고민이 필요하다"고 말했다.

배 부총리는 23일 경기 성남 인공지능안전연구소에서 열린 산·학·연 간담회에서 "AI 3대 강국을 목표로 내년 예산 투자가 3배 이상 늘어나는 상황에서 산업만 강조하면 안 된다"며 "대한민국이 '가장 신뢰할 수 있는 AI'를 만드는 것이 진짜 경쟁력"이라고 밝혔다.

이날 간담회는 다가올 AI 에이전트 시대를 대비해 새로운 유형의 피해를 방지하고, AI 안전 확보 기술 현황을 공유하기 위해 마련됐다. 안전연구소는 딥페이크 탐지와 AI 에이전트 안전성 평가 기술을 시연했다. 과기정통부는 연내 '국가 AI 안전 생태계 조성 종합계획(가칭)'을 수립할 예정이다.

배 부총리는 "AI를 통해 산업을 진흥하는 것도 중요하지만, 성능과 속도만 좇다 보면 부정확한 데이터나 검증되지 않은 모델이 확산될 수 있다"며 "굿(Good) AI를 제대로 만들어야 산업도 함께 성장할 수 있다"고 말했다. 또 "의무화보다 인증 중심 접근이 바람직하다"며 "AI 안전연구소가 기업이 활용할 수 있는 인증·가이드라인 체계를 마련해야 한다"고 덧붙였다.

현장에선 기술 발전 속도를 규제가 따라가지 못한다는 지적도 나왔다. 김민재 엔씨소프트 CTO는 "딥페이크 탐지 기술은 이미 수년 전 수준의 데모"라며 "생성 기술이 훨씬 빠르게 발전하고 있어 탐지 연구 지원이 시급하다"고 말했다.

배순민 KT AI퓨처랩장은 "AI 기본법 시행령 제정에만 몇 달이 걸린다"며 "국가가 지금 같은 속도로 거버넌스 역할을 할 수 있을지 고민해야 한다"고 꼬집었다.

전문가들은 AI 안전을 규제가 아닌 경쟁력으로 봐야 한다는 의견도 있었다. 이재호 서울시립대 교수는 "국내 인증체계가 국제 표준과 호환돼야 기업 경쟁력이 높아진다"며 "AI 안전을 시장 진입의 필수요건으로 인식해야 한다"고 강조했다.

이에 배 부총리는 "AI 안전이 모든 산업과 국민 생활에 녹아들 수 있도록 정부가 책임 있게 종합계획을 마련하겠다"고 말했다.