[AI & LAW] AI, 안전 검증하면서 혁신으로 나아가야

[AI & LAW] AI, 안전 검증하면서 혁신으로 나아가야

AI 규제 샌드박스의 명암

[아이뉴스24 정종오 기자] 2026년 8월 20일, AI 기술 개발을 위한 개인정보 활용 특례를 담은 ‘개인정보 보호법’ 개정안이 국회 본회의를 통과했다. 지금까지 보이스피싱 예방이나 자율주행로봇 고도화처럼 개인정보가 포함된 음성·영상 원본이 필요한 일부 서비스는 규제 샌드박스 안에서만 실증할 수 있었다.

개정안은 가명정보, 익명정보만으로 개발이 어렵고 공익적, 사회적 필요성이 인정되는 경우 강화된 안전조치를 전제로 개인정보보호위원회의 심의·의결을 거쳐 적법하게 수집한 개인정보를 AI 개발에 활용할 수 있도록 했다.

다만 아직 시행 전으로 공포 후 6개월이 지난 날부터 효력이 생긴다. 규제 샌드박스의 실험이 일반 규칙으로 옮겨가는 장면이다.

권은구 변리사(법무법인 화우). [사진=법무법인 화우]

규제 샌드박스는 규제가 사라지는 공간이 아니다. 일정한 기간과 장소, 규모와 조건 아래 기존 규제의 일부를 잠시 적용하지 않고, 시장에서 안전성과 유용성을 함께 검증하는 제도다.

AI 기본법도 국가 지원 연구개발의 성과가 AI 융합 제품·서비스로 이어질 때 정보통신융합법상 임시허가와 실증특례를 적극적으로 지원하도록 정한다. 결국 기업이 손에 쥐는 것은 ‘면책증서’가 아니라 조건이 붙은 ‘실험허가서’다. 그렇다면 다음 세 가지를 확인해야 한다.

첫째, 무엇을 면제받았고 무엇이 남는가

실증특례는 지정서에 적힌 규제와 범위에만 효력이 있다. 개인정보 보호, 의료, 소비자 보호, 저작권 관련 의무나 AI 기본법상 의무가 한꺼번에 사라지는 것은 아니다. 지정 사실과 유효기간을 이용자에게 알려야 하고, 조건을 지키지 않거나 국민의 생명, 건강, 안전에 위해가 발생하면 실증이 중지되거나 지정이 취소될 수 있다.

손해배상책임도 남는다. 따라서 신청 단계부터 적용 법령, 면제 조항, 남는 의무와 부가 조건을 한 장의 규제 지도로 정리해야 한다.

둘째, 실험의 위험은 누가 감당하는가

과학기술정보통신부가 2026년 5월 6일 실증특례로 지정한 ‘AI 기반 중증외상 환자 케어시스템’은 의식 없는 응급 환자가 많은 외상소생실의 영상을 사전 동의 없이 수집하는 대신 사후 동의와 비식별 조치를 전제로 했다.

같은 날 자율주행 배달 로봇 분야에서는 주행 안전성을 높이기 위해 영상 원본 활용이 허용됐다. 2026년 7월 30일에는 보이스피싱 범죄 음성의 특징을 단말기 안에서 대조하는 탐지 서비스도 규제 샌드박스 실증특례를 받았다.

세 가지 사례 모두 공익은 분명한데 환자·보행자·통화 상대방은 샌드박스를 신청한 적이 없다. 수집 최소화, 접근 권한 통제, 외부 제공 금지, 보유 기간 제한, 오탐 대응과 중단 기준 역시 기술 성능만큼 비중 있게 실증돼야 한다.

셋째, 실험은 어떤 규칙으로 남는가

규제 샌드박스의 성패는 승인 건수가 아니라 실증 데이터가 법령과 지침으로 이어지는지에 달려 있다. 2025년 정부가 범부처 표준운영지침을 만든 것도 과도한 부가조건, 불명확한 측정지표와 법령정비 지연이 반복됐기 때문이다.

다른 나라도 같은 고민을 하고 있다. 유럽연합(EU)은 참가 기업에 규제기관의 지도·감독을 제공하면서도, 제3자에게 발생한 손해에 대한 책임은 기업에 그대로 남겨 둔다. 영국의 의료 AI 샌드박스를 두고도, 실증 과정의 논의가 실제 지침과 제도 변화로 이어져야 장기적 신뢰를 얻을 수 있다는 평가가 나왔다. 특례가 일부 기업의 임시 통로에 머물면 같은 불확실성이 다음 기업 앞에 다시 나타난다.

>모래놀이터 밖으로 나갈 설계가 필요하다

기업은 승인받은 날이 아니라 신청서를 쓰는 날부터 출구를 설계해야 한다. 무엇을 성공으로 볼지, 사고와 오탐을 어떻게 기록할지를 먼저 정해야 한다. 모델이나 데이터가 바뀌면 언제 재심사를 받을지, 실증이 끝난 뒤 데이터를 폐기할지 이전할지, 정식 허가와 법령 정비는 어떤 순서로 밟을지도 함께 미리 정리해 두어야 한다.

규제기관도 성공 사례뿐 아니라 실패와 중단 사유까지 공개해 다음 규칙의 재료로 삼아야 한다.

규제 샌드박스는 혁신을 위해 안전을 미루는 장치가 아니다. 안전을 검증하면서 혁신이 앞으로 나아갈 수 있는 규칙을 함께 만드는 장치다. 그래서 마지막 질문은 “특례를 받았는가”가 아니라 “이 실증은 다음 규칙을 만들 만한 증거를 남겼는가?”에 있다.

권은구 변리사(법무법인 화우) egkwon@yoonyang.com

/정종오 기자(ikokid@inews24.com)