[IT돋보기] 생성AI 개발 경쟁에 AI규제 논의도 '급물살'

[아이뉴스24 박진영 기자] 전세계적인 생성형 인공지능(AI) 개발 경쟁이 심화되고 있는 가운데 국내에서도 AI 규제에 대한 본격적 논의가 시작될 것으로 보인다. 오는 10월 열리는 국정감사에서 AI규제 정책 추진, 생성형 AI 육성과 윤리 등이 주요 의제로 다뤄질 전망이다.

28일 업계에 따르면 국회 입법조사처는 최근 발간한 '2023 국정감사 이슈 분석' 보고서에서 "외국의 규제입법과 현재 국회에 발의돼 있는 AI 규제에 관한 법률안을 종합적으로 검토해 한국 현실에 맞는 생성형 AI 규제와 이용자 보호 체계를 마련할 필요가 있다"고 제안했다. 아직 전세계적으로 생성형 AI 부작용에 대한 구체적 대안이 없기 때문이다.

생성형 AI로 인한 부작용으로 △생성형 AI 학습 과정에서 데이터 무단 사용 △생성형AI 저작권 문제 △생성형 AI의 답변 오류 등 할루시네이션(환각) 문제 △알고리즘에 의한 차별과 편향성 확대 △가짜뉴스 등 AI 생성물 오남용 △생성형 AI 악의적 사용에 대한 이용자 규제 등이 거론된다.

특히 생성형 AI 개발에 활용되는 데이터 저작권 논란이 본격화되고 있다. LLM(거대언어모델) 개발에 대량의 데이터가 필요한데, 이제는 AI학습에 가장 유용한 데이터로 꼽히는 기사와 같은 콘텐츠 임의 수집이 어려워졌다. 최근 뉴욕타임스(NYT), 로이터, CNN 등 주요 외신이 챗GPT의 웹 크롤러를 차단했다. 데이터 활용 사전 동의없이 챗GPT가 콘텐츠를 무단으로 사용하지 못하도록 한 것이다. 한국신문협회도 "AI 기업이 뉴스 콘텐츠를 학습 데이터로 이용하기 위해서는 언론사로부터 이용 허락을 받는 것은 물론, 사용료를 지급해야 할 것"라는 의견을 분명히 했다.

정보통신정책연구원도 최근 생성형AI 저작권 보고서를 통해 "가급적 저작권 이슈에서 자유로울 수 있는 데이터를 사용해야 하나, 사실상 이를 확인하는 것은 어려운 작업"이라면서 "인터넷에 공개된 정보는 이용 허락 조건에 맞지 않게 이용할 경우라면 저작권 침해로부터 자유로울 수 없다"고 지적했다. 이어 "생성형 AI가 데이터로 기계 학습해 구축한 결과물인 AI 모델의 저작권 침해 주체는 해당 서비스를 제공한 사업자가 돼야 한다"고 주장했다.

또 생성형AI 기술로 인해 가짜뉴스, 딥페이크 이미지 등 여러 부작용이 나타나고 있다. 이에 정부는 AI 생성물을 구분할 수 있는 기술적 조치를 취하기로 했다. 과학기술정보통신부는 생성AI 콘텐츠에 워터마크를 삽입하는 등의 방식을 두고 AI 업계와 협의 중이다. 눈으로 보이는 워터마크가 대신 기계가 AI 생성물임을 확인할 수 있도록 하는 방식이 유력할 것으로 알려졌다. 앞서 구글, 마이크로소프트, 메타, 아마존, 오픈AI 등 주요 7개 미국 빅테크 기업은 생성AI 콘텐츠에 워터마크를 넣는 등 자발적 조치를 취하기로 했다.

산업별 생성형 AI가 확산되려면 법·제도 개선이 병행돼야 한다는 의견도 나온다. 현재 AI기본법 성격의 '인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안'이 지난 2월 과방위 소위를 통과했지만, 이후 논의가 더이상 진전되지 않았다. 이에 국회입법조사처는 "생성형 AI의 다양한 문제가 여전히 해결되지 않고 있어서 향후 이용자 보호 제도 설계 요구가 커질 것"이라면서 "인공지능 기술 발전을 저해하지 않으면서 안전하게 활용할 수 있도록 세심한 정책 추진이 필요하다"고 했다.

이어 "정부가 인공지능 시스템을 사전에 검토하고 인공지능으로 인해 유발된 사건을 사후에 조사하기 위해서 정부가 인공지능 검증, 조사 기술을 자체적으로 갖출 필요가 있다"고도 지적했다.