'진흥·규제' 두마리 토끼 잡는 'AI 기본법' 나올까

[아이뉴스24 박진영 기자] 인공지능 산업 진흥과 신뢰 기반을 위한 규제 내용을 담은 이른바 AI기본법이 국회에 제출된다. 최근 대두되고 있는 인공지능 부작용을 줄임으로써 신뢰 기반의 환경을 조성하고, 관련 산업을 육성하겠다는 취지다.

더불어민주당 정필모 국회의원(과학기술정보방송통신위원회)은 18일 오전 10시 한국과학기술회관에서 '인공지능 육성 및 신뢰 기반 조성 등에 관한 법률안(인공지능법 제정안)' 입법공청회를 열었다.

이날 공청회에서는 정필모 의원실에서 인공지능법 제정안의 핵심적인 부분을 설명하고, 최재식 카이스트 교수, 신용우 법무법인 지평 변호사, 권세화 한국인터넷기업협회 정책실장, 장여경 정보인권연구소 이사, 김세진 MBC 기자, 김경만 과기정통부 인공지능기반정책과 과장 등이 참석해 제정안에 대한 의견을 진술했다.

인공지능법 제정안은 디지털뉴딜의 한 축인 인공지능 기술과 산업을 지원하는 동시에 사회적 신뢰 기반 조성 마련을 위해 추진된다. 즉 산업에 대한 진흥과 규제를 함께 추진하겠다는 것이다.

이날 공청회에 참석한 이우일 한국과학기술단체총연합회 회장은 "국가적 측면에서 인공지능산업의 육성을 도모해야하는 노력은 물론, 인공지능의 개발·제공·이용 등에 있어서 지켜야 할 윤리적 원칙을 규정하는 것도 필요하다"면서, "해당 법안이 제정되면 인공지능사회 윤리원칙이 단순히 윤리 명제로서가 아닌, 적어도 인공지능 측면에 있어서는 기본법과 같은 역할을 하게 될 것으로 기대된다"고 밝혔다.

◆ 설명 불가능한 AI 결정 문제…설명요구권·특수활용 인공지능 신고제 도입

이번 법안 제정의 계기로 'AI면접'을 사례로 들었다.

최근에 AI 면접이 늘어나면서, 이를 준비하기 위한 학원들도 생겨나고 있다. 단순히 또다른 비용이 발생한 문제가 아니라, AI면접이 합불의 당락을 결정하는 직접적 수단으로 자리잡게 된 것. 다만, 문제는 AI의 결정을 그 누구도 설명해줄 수 없다는 데 있다. AI와 사람의 판단차도 발생한다.

박철관 보좌관(정필모 의원실)은 "AI면접으로 떨어진 지원자가 왜 그러한 결과를 얻었는지 누구도 설명해주지 못하는 상황이 발생하고 있다"면서, "인공지능이 국가적인 신성장 동력으로 거론되고 있는 만큼, 국회 입장에서는 경제와 산업을 진흥할 의무와 함께 유권자인 국민들이 신뢰받는 인공지능을 사용할 수 있도록 환경을 조성해야 할 의무가 있다"고 법안 제정의 배경을 설명했다.

제정안은 크게 산업 진흥과 규제체계로 나눌 수 있다.

우선 산업 기반 조성을 위해 과기정통부에 기술기준과 표준화를 마련하도록 했다. 또 인공지능 전문인력에 국가 예산을 투입할 근거를 규정했다.

뿐만 아니라 민간 분야의 인공지능 윤리 수준을 자율적으로 제공할 수 있도록 '민간자율인공지능윤리위원회'를 설치할 수 있도록 하고, 실적이 우수한 기관·단체를 우대할 수 있도록 '인증제'를 포함했다.

'자율위원회 인증제'는 회사나 기관이 사내에 '인공지능 자율위원회'를 설치해 다양한 분야 전문위원을 두고 이를 정기적으로 개최하고, 잘 운영하고 있는지 등을 평가·인증하도록 하는 제도다. 여기서 '인증제'는 서비스에 대한 인증이 아니라, 위원회 구성 등에 대한 인증이기에 제품에 대한 인증보다는 기업의 부담이 줄어들 것이라고 설명했다.

규제체계로는 이용자의 '설명요구권'을 보장하고, '특수활용 AI'에 대해 정의하고 8개 분야로 나누었다. 이는 최근 EU의 고위험분야 AI를 규정한 것과 다소 유사하지만, 범위에서 차이가 있다. ▲보건의료 ▲필수 공공재 ▲범죄수사 ▲원자력 ▲민사결정 ▲국가 등 활용 ▲포털 사이트 ▲기타 등의 8개 분야 인공지능사업자에게 '신고제'를 규정했다.

여기서 신고제는 기술적 관리 조치에 필요한 장비 등을 판단하는 유보적 신고제로 허가나 인가제에 비해 기업의 부담이 비교적 낮다고 설명했다.

특히, '설명요구권'과 '신고제'를 통해 AI를 활용해 업무가 수행된다는 것을 사전에 고지하도록 했다. 최근 AI에 의한 업무배정이 배달 기사의 휴식권 보장·급여 등 근로계약과 직결되는 상황인데, 이같은 제도는 관련 산업에 유의미하게 작용할 것이라고 설명했다.

기본법적 성격을 지닌 해당 법안이 제정되면, 하위 법령에 대해서는 각 관련 부처에서 구체적인 심의 통해 논의될 것으로 보인다.

박 보좌관은 "인공지능 기본법이라 할 수 있는 이번 제정법안은 국제적으로도 아직 유례가 없다"면서, "보통 기술이 발전한 후 법이 따라가야 한다는 데 공감한다. 인공지능을 법률로 규정하는 것이 처음인 만큼 다소 느슨하게 제정되는 것이 바람직하다"고 밝혔다.

정필모 의원은 "모든 과학기술 발전에는 위험이 뒤따른다. 인공지능 육성도 중요하지만 신뢰기반 환경이 조성될 필요가 있다"면서, "모든 사안을 법으로 강제할 수도 없고, 윤리를 법으로 규제하는 것은 최소화해야 한다. 기술업계나 관련자들이 스스로 AI윤리를 실천해 나가는 것이 중요하다"고 밝혔다.

인공지능 육성?신뢰 법안과 EU 인공지능 법안 비교 설명 [사진=신용우 법무법인 지평 변호사]

◆ 대체로 법안 취지에 공감…"구체화 필요 vs 육성 체계 부족"

윤리체계 정립을 통한 신뢰할 수 있는 인공지능 구축이 필요하다는 측면에서 참석자들은 대체로 법안의 취지에 공감했다. 다만, 해당 법안이 산업 육성책을 잘 담고 있지 않다는 지적이 나왔다.

김경만 과장은 "현재 인공지능이 인권침해, 개인정보 침해 등 오남용이 많이 나타나고 있기에 이를 사전에 대응하지 않으면 궁극적으로 산업이 무너질 수도 있다"면서, "신뢰할 수 있는 인공지능 구현을 위해 진흥과 규제의 적절한 조화가 필요하다"고 강조했다.

그는 "다만, 해당 법안에서 민간자율위원회를 두도록 명시했는데, 중소벤처기업의 경우 자체적으로 검증할 수 있는 환경을 갖출 수 있을지 의문"이라면서, "신뢰성 확보를 위해서는 윤리위원회가 아니라 서비스 품질에 대한 인증이 더 적합할 수 있다. 현재 민간 중심의 자율 인증체계 도입을 추진 중"이라고 밝혔다.

최재식 교수도 "해당 법안에는 산업을 육성하기 위한 새로운 내용은 없다"면서, "육성과 신뢰기반 규제가 조화를 이루려면 적어도 기존에 존재하는 육성책들을 법안을 통해 명문화할 필요가 있다"고 말했다.

제정 법안 중 '특수활용 인공지능' 개념 정의에 대한 제언도 잇따랐다. 해당 범위에 대한 구체적 논의가 필요하고, 국방 등 다른 부문도 포함될 필요가 있다는 의견이 나왔다.

최 교수는 "특수활용 AI 부문에 국방과 관련된 내용도 들어가길 바란다"면서, "또 포털의 범위를 네이버, 카카오 등 국내기업 뿐 아니라 유튜브, 구글 등 외국계 기업들도 포함될 필요가 있다"고 지적했다.

신용우 변호사는 "기술의 분류와 최소한의 의무 부여가 인공지능 부작용에 대한 우려를 줄일 수 있을 것으로 생각되지만, 향후 특수활용 인공지능의 범위를 구체화하고, 기술적･관리적 조치의 내용을 명확히 하는 것이 필요해 보인다"고 말했다.

권세화 정책실장도 "특수활용 인공지능에 대한 정의가 포괄적이고, 사업자들이 규범을 지키기 위한 명확성도 떨어진다"면서, "더욱이 사전신고제는 소규모 인공지능 개발사들의 진입장벽을 높일 수도 있다"고 지적했다.

이밖에 인공지능 산업 육성이나 규제를 관활하는 컨트롤타워가 필요하다는 의견도 나왔다.

권 정책실장은 "인공지능 육성은 여러 관할 부처에서 담당하고 있는데 각 부처간 이견으로 정책적 통일성이 없다"면서, "하나의 전문성 있는 부처가 컨트롤타워가 되어 산업 육성을 이끌어가 주길 바란다"고 말했다.

장여경 이사는 "현재 과기부, 4차산업혁명위원회 등 산업진흥 부처·기구가 인공지능 정책을 주도하고 있고, 관련 입법 또한 빠르게 진행되고 있다"면서, "다만, 인공지능에 대한 국가감독은 산업부처가 아닌 감독기구가 소관해야한다. 국가감독 체계에는 공정거래위원회, 국가인권위원회, 개인정보보호위원회가 포함돼야 한다"고 주장했다.

한편, 이번 공청회는 정필모 의원이 주최하고 한국과총이 주관, 과학기술정부통신부(과기정통부)의 후원으로 진행됐다. 이날 참석한 각계 전문가들이 진술한 내용은 국회 과학기술정보방송통신위원회에 제출돼 법률안 심의에 활용될 예정이다.

/박진영 기자(sunlight@inews24.com)