[AI 기본법 명암 ㊥] 고영향 AI·워터마크⋯현장은 기대 반 우려 반

[아이뉴스24 정유림 기자] 인공지능(AI) 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)이 오는 22일부터 시행하는 가운데, 산업계 현장에서는 새로운 제도에 맞춘 대응으로 분주하다. 이 법은 AI 사업자에 투명성·안정성 확보 의무를, 국민의 안전과 기본권에 중대한 영향을 미치는 고영향 AI에는 강화된 책임을 부여하는 등을 골자로 한다.

일각에서는 자원과 인프라가 대기업 대비 부족한 중소·영세 기업에 부담으로 작용할 수 있고 제도의 취지와 달리 생태계를 위축시키는 역효과가 우려된다는 목소리도 나온다. AI 기본법은 시행으로 완결되는 것이 아닌 출발점인 만큼 앞으로도 지속적인 수정·보완을 해나가야 한다는 분석이다.

AI 기본법 시행 코앞⋯약관 개정 등 준비 움직임도

AI 기본법에 따르면 생성형 AI를 이용해 만든 이미지, 영상, 음성 콘텐츠에는 'AI 생성물'임을 알리는 식별 표시(워터마크)를 해야 한다. 사람이 눈으로 식별할 수 있는 텍스트 표시뿐만 아니라 기계가 읽을 수 있는 비가시적 워터마크 기술이 도입돼야 한다. 누적 연산량이 일정 수준 이상인 AI 시스템을 개발·운영할 경우 위험관리체계 등을 구축해야 한다. 국민의 생명과 안전에 직결된 분야는 '고영향 AI'로 지정해 별도 관리한다.

본격적인 시행을 앞두고 제도에 맞춘 서비스 운영을 위해 사전 준비 작업을 진행하는 움직임도 나타나고 있다. 카카오는 서비스 약관을 개정해 오는 2월 4일부터 적용한다. '회사가 제공하는 서비스에는 AI에 기반해 운용되는 서비스가 포함될 수 있으며 AI에 의해 생성된 결과물을 제공할 경우, 관련 법에 따라 고지·표시한다’는 내용의 조항을 신설해 시행한다. 카카오 관계자는 "최근 회사의 다양한 서비스의 AI 기반 신규 기능, 개인화 서비스 등 도입과 AI 기본법 시행을 고려해 필요한 내용을 카카오 통합서비스 약관에 명시한 것"이라고 설명했다.

"AI 기본법, 시행 앞뒀지만 제대로 모르는 경우 많아⋯생태계 위축 등 역효과 우려도"

생산성 향상, 새로운 사업 모델 발굴의 기회가 될 수 있는 만큼 각계에서 AI 도입과 활용이 확산하는 추세다. 실제 웹툰 업계에서는 소규모 사업자일수록 AI 활용 경험이 높은 것으로도 나타났다. 한국콘텐츠진흥원의 '2025 웹툰산업 실태조사'에 따르면 연 매출 10억원 미만 업체의 48.8%, 10~100억원 미만 업체의 50.4%, 500억원 이상 업체의 36.7%가 생성형 AI 활용 경험이 있다고 답했다.

이런 배경으로 기업들은 AI 기본법 시행이 모래주머니를 차고 경쟁하게 만드는 격이라며 불안해한다. 일각에서는 관련 생태계가 이제 막 형성돼 가는 초기 단계에서 이 산업을 제도로 규정하고 법을 시행하는 데 대한 우려의 목소리가 나온다. 예상치 못한 역효과가 나타날 수 있다는 것이다.

한 AI 업계 관계자는 "AI가 세계 기술 패권 경쟁의 중심 축으로 부상하면서 관련 제도의 도입을 미루거나 보류하는 방향으로 선회하는 추세가 나타나고 있는데 우리나라가 새 제도의 시행을 가장 앞서게 되면서 '(법 시행이) 향후 규제의 단초가 되지 않을까'하는 우려가 있는 분위기"라고 했다.

한 스타트업 업계 관계자는 "최근에는 AI를 다양한 분야에서 광범위하게 활용하는 만큼 회사가 AI 기본법의 적용 대상에 해당이 되는지, 그 여부조차 모르거나 스스로 판단하기 어려운 경우가 많은 모습"이라며 "가령 패션 등의 쇼핑(커머스) 영역에서는 상품 관련 사진을 AI로 만들었다는 점을 알리면 이를 본 소비자가 거부감을 느낄 수 있는 부분에 대해서도 걱정한다"고 했다.

또 다른 AI 업계 관계자는 "AI 기본법에서는 안전성 확보 의무 대상을 '학습에 사용된 누적 연산량이 10의 26승 부동소수점 연산(FLOP) 이상인 AI 시스템'으로 규정하고 있는데 이렇게 기준이 만들어지는 경우 그 기준 아래로 기술 개발을 하면 법 적용을 받지 않을 수도 있다는 해석의 여지를 준다"며 "규모가 작은 기업은 인력 부족 등으로 의무 이행을 위한 관련 체계 구축이 부담으로 작용할 수 있고 이 때문에 오히려 기술 개발에 소극적으로 임하게 되는 역효과가 나타날 수 있는 점이 우려된다"고 했다.

규제는 1년 이상 유예⋯AI 기본법, 향후 과제는

정부는 입법예고 과정에서 제기된 산업계와 시민사회의 의견을 반영해 시행령 수정안을 마련하고 최소 1년 이상의 규제 유예 기간을 두기로 했다. 특히 법 시행이 임박했음에도 현장에서는 불안감이 높고 혼선을 빚는 모습이 나타난 만큼 앞으로 관련 정책을 더 명확하게 알릴 필요성이 제기된다.

6일 서울 영등포구 국회의원회관에서 열린 'AI 기본법 투명성·책임성 라운드테이블' 세미나에서 코리아스타트업포럼 회장을 지낸 최성진 스타트업성장연구소 대표는 AI 기본법의 주요 쟁점을 분석하며 "과태료 부과 등의 규제 유예 기간을 두기로 했지만 (법 시행을 기점으로) 법률적 의무의 효력이 발생하게 되는 만큼 법률에 명시된 의무를 다하지 못하거나 문제가 생겼을 때 그 효과는 즉시 발생하게 되는 것"이라며 "이런 부분에 대한 충분한 고려와 고민이 필요하다고 생각한다"고 했다.

정지은 코리아스타트엄포럼 대외정책분과위원장은 "AI 기본법상 투명성 의무가 특히 많은 스타트업이 영향을 받는 부분인데 사업자가 법을 위반하는 상황을 최소화하는 차원에서 50인 미만 사업자에는 예외를 두는 방식 등을 고려해 보는 것도 방법"이라고 제언했다.

최우석 과학기술정보통신부 인공지능안전신뢰지원과장은 "AI 기본법이 만들어졌다는 건 알지만 정확한 내용을 잘 모르는 경우가 많다는 걸 체감할 수 있었다"며 "지금은 무엇보다 (정책을) 적극적으로 알려야 할 시기라는 점에 공감한다"고 했다.

그는 또 "AI는 신산업 분야인 만큼 태생적으로 불확실성이 클 수밖에 없는데 과학기술정보통신부는 항상 이러한 (신산업) 분야를 다뤄왔고 AI 기본법도 다르지 않다고 본다"며 "법이나 시행령은 상대적으로 수정이 쉽지 않은 것들이기 때문에 가이드라인을 통해 업계에서 현재 궁금한 사안들을 풀어낼 수(설명할 수) 있도록 노력할 것"이라고 했다.

규제가 강하면 우리나라가 아니라 해외에서 서비스할 유인이 커진다는 주장과 관련해 최 과장은 "(AI 기본법과 관련해) 국내외 역차별 문제가 당연히 생겨서는 안 되고 EU 같은 곳과는 상호 운용성을 긴밀히 확보해 나가기 위한 국제 협력도 추진할 것"이라고 덧붙였다.