[아이뉴스24 정종오 기자] 2026년 1월 22일 AI 기본법 시행에 맞춰 과학기술정보통신부는 ‘고영향 인공지능 해당 여부 확인 요청’ 온라인 창구를 열었다. 접수 안내문은 뜻밖의 문장으로 시작한다. 사업자가 먼저 스스로 검토한 뒤, 그 자체 판단을 전제로 추가 확인이 필요한 경우에 한해 요청하라는 것이다.
판단의 1차 책임은 회사에 있다. 실제로 법 제33조 제1항은 인공지능사업자가 AI 또는 이를 이용한 제품·서비스를 제공하기 전에 고영향 인공지능에 해당하는지를 사전에 검토하도록 정했는데 이는 권고가 아니라 의무다. 다만 ‘고영향’이라는 말이 낯설다.
위험한 AI라는 뜻인지, 큰 회사만 해당하는지, 만들지 않고 사다 쓰는 AI도 포함되는지 처음 접하는 쪽에서는 그 감이 잡히지 않는다. 다행히 판단 구조 자체는 단순하다. 순서대로 세 가지를 확인하면 된다.
첫째, 영역에 해당하는가?
AI 기본법 제2조 제4호는 사람의 생명·신체의 안전과 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI로서 각 목의 영역에서 활용되는 것을 고영향 AI로 정의한다.
열거된 영역은 에너지 공급과 먹는물 생산 공정, 보건의료의 제공, 의료기기·디지털의료기기의 개발과 이용, 원자력시설의 관리·운영, 범죄 수사나 체포를 위한 생체인식정보 분석, 채용·대출 심사 등 개인의 권리·의무에 중대한 영향을 미치는 판단, 교통체계의 주요 작동과 운영, 공공서비스 관련 국가기관등의 의사결정, 유아·초등·중등교육에서의 학생 평가다.
여기에 대통령령으로 정하는 영역이 보충 조항으로 붙는다. 여기서 자칫 오해할 수가 있는데 기준은 ‘우리 회사가 속한 산업’이 아니라 ‘AI가 쓰이는 영역’이다. 자동차 부품을 만드는 회사도 지원자를 선별하는 채용 AI를 쓰면 채용 영역으로 들어간다. 실무에서 가장 넓게 열려 있는 문이 이 조항이다.
‘채용, 대출 심사 등’이라고 예시로 열어둔 만큼, 인사평가와 승진, 보험 인수 심사처럼 사람의 권리·의무를 좌우하는 판단에 AI가 개입한다면 같은 문을 통과할 수 있다. 회사의 ‘AI 지도’의 항목을 이 열 개 영역과 한 줄씩 대조하는 것이 첫 작업이다.
둘째, 그 AI가 결정을 좌우하는가?
영역에 걸린다고 곧바로 고영향 AI가 되는 것은 아니다. 과기정통부의 고영향 인공지능 판단 가이드라인은 1단계 법정 영역 해당 여부와 2단계 중대성을 모두 충족해야 한다고 본다. 위험이 미치는 범위와 중대성, 발생 빈도, 오작동했을 때의 결과, 사람이 실질적으로 개입하는 정도가 함께 고려된다.
같은 채용 영역이라도 이력서의 오탈자를 잡아주는 AI와 지원자에게 점수를 매겨 순위를 만드는 AI는 다르다. 앞의 것은 사람의 판단을 거들 뿐인데 뒤의 것은 사실상 탈락자를 정한다.
여기서 조심할 것이 ‘최종 결정은 사람이 한다’는 항변이다. 담당자가 AI가 매긴 순위를 그대로 받아쓴다면, 결재란에 사람 이름이 있다는 사정만으로 중대성이 부정되기는 어렵다. 승인 버튼만 놓인 구조는 오히려 개입이 형식적이었다는 기록을 남긴다.
셋째, 판단을 문서로 남기고, 어려우면 확인을 요청한다.
세 번째가 실제로 많이 놓치는데, 사전 검토가 의무인 이상 ‘해당하지 않는다’는 결론에 이르렀더라도 그 근거가 남아야 한다. 어떤 AI를 어느 영역과 대조했고 어떤 이유로 중대성을 부정했는지가 남지 않으면, 회사는 검토했다는 사실 자체를 증명할 수 없다.
스스로 판단하기 어려우면 법 제33조에 따라 과기정통부장관에게 확인을 요청할 수 있다. 제품·서비스 개요서와 학습용데이터 개요 등을 첨부해 온라인으로 접수하며, 회신에는 상당한 기간이 걸리고 사안에 따라 연장될 수 있다.
출시 일정에 이 기간을 미리 반영해야 한다는 뜻이다. 그 전 단계로 과기정통부와 전문기관이 운영하는 지원데스크에서 무료 상담도 받을 수 있으나, 상담이 해당 여부를 대신 판정해 주지는 않는다.
고영향 AI로 판단되면 위험관리방안의 수립·운영, 최종 결과 도출에 사용된 주요 기준과 학습용데이터 개요에 대한 설명 방안, 이용자 보호 방안, 관리·감독자 연락처 게시 같은 책무가 따라온다(법 제34조).
외부 AI를 도입해 쓰는 회사라면 계약 단계에서 개발사업자의 판단 결과와 근거 문서를 받을 권리를 확보해 두는 편이 안전하다. 남이 이행한 의무도 우리가 입증할 수 있어야 이행이 된다.
정부는 사실조사와 과태료 부과에 최소 1년 이상의 계도기간을 두겠다고 밝혔다. 유예된 것은 제재이지 의무가 아니다. 따라서 스스로 AI 지도를 펼쳐서 “우리 회사 AI 목록에서, 사람에 관한 결정을 내리고 있는 것과 같은 고위험은 존재하는가?”라고 AI 지도 위에 검증이 필요한 부분과 지점을 그려보고, 어느 AI가 사람에 관한 결정의 길목에 서 있는지 가려내는 작업을 해봐야 한다.
이근우 변호사(법무법인 화우 ESG센터) klee@yoonyang.com
/정종오 기자(ikokid@inews24.com)