[뉴테크 윤리]① 메타버스·AI 등 부작용 근절…정부가 '윤리원칙' 제정한다


이루다 개발사 '스캐터랩', 정부와 협력해 기업 1호 윤리점검표 공개

[아이뉴스24 박진영 기자] 메타버스, 인공지능(AI) 등 신기술이 빠르게 우리 삶속에 들어오자 이에 따른 사회·문화적 부작용을 예방하기 위해 정부는 물론, 산업계 차원에서 다양한 방안을 고심 중이다. 특히 관련 부처인 과학기술정보통신부는 선제적으로 기술 개발단계부터 적용 가능한 윤리원칙을 발표하고 기업들도 이에 동참하는 분위기다.

과기정통부는 신성장 산업으로 떠오른 메타버스에 대한 사회적 우려를 해소하는 한편, 메타버스의 잠재력과 확장성이 제한받지 않도록 관계부처와 산업계를 중심으로 메타버스 생태계 참여자가 지켜야할 규범을 마련하고 있다.

특히 가상세계에서 가상 자아를 중심으로 활동하는 새로운 유형의 상호작용 방식으로 인해 ▲현실과 가상세계의 혼돈 ▲청소년 보호 ▲개인정보보호 ▲재산권보호 ▲저작권 보호 등의 역기능에 대한 우려가 있다.

메타버스 윤리원칙 초안 [사진=과기정통부]

'메타버스 윤리원칙' 초안은 지난해 말 과기정통부와 정보통신정책연구원을 중심으로 연구기획안을 마련했으며 이후 관련 기관 및 학계 전문가의 자문을 받았다.

메타버스 윤리원칙은 생태계 참여자가 개발·운영·이용 과정에서 지향해야 할 3대 지향가치(온전한 자아·안전한 향유·지속적 번영)와 이를 실현하기 위한 8대 실천원칙이 담겼다. 실천 원칙에는 진정성, 자율성, 호혜성, 사생활 존중, 공정성, 데이터 보호, 포용성, 책임성 등이 있다.

과기정통부에서 메타버스 정책을 총괄하는 허원석 소프트웨어정책관은 "메타버스 윤리원칙이 학교현장에서 교육교재, 메타버스 기업의 커뮤니티 가이드라인 등 실제 산업현장에서 활용될 수 있도록 관련 부처, 전문가, 업계, 시민단체 등의 의견을 폭 넓게 수렴하여 연말까지 최종안을 수립하겠다"고 밝혔다.

이와 함께 정부는 AI의 윤리적 개발 확산을 위해 지난 2월 '인공지능 윤리정책 포럼'을 출범했다. 당시 민간이 인공지능 제품·서비스를 기획하고 개발하는 과정에서 윤리 실천 및 신뢰성 검증을 위해 참고할 수 있는 'AI 윤리 자율점검표'와 '신뢰할 수 있는 인공지능 개발안내서'를 공개하기도 했다.

지난달 28일 개최한 제3회 AI윤리정책 포럼에서는 AI스타트업이 정부가 공개한 AI윤리 원칙을 어떻게 활용하고 있는지 공유했다. 이날 참석한 스캐터랩, 알체라, 뤼튼테크놀로지스 등은 'AI 윤리 자율점검표'를 자사 서비스 특징에 맞게 내부지침으로 변형하거나 '신뢰할 수 있는 AI 개발안내서'를 자사 서비스의 신뢰성 검증을 위해 활용하는 등 AI 윤리 확보를 위한 기업의 자율적 활동 사례를 소개했다.

향후 과기정통부는 챗봇, 위기상황 감지, 작문 등 해당 서비스 분야의 다른 기업들이 일반적으로 활용할 수 있는 분야별 점검항목 후보군을 공개할 예정이다.

엄열 과기정통부 국장은 "혁신을 저해하지 않으면서 국민이 믿고 이용할 수 있는 인공지능 제품·서비스를 개발하기 위해서는 기업 스스로의 인공지능 윤리를 실천하고자 하는 노력이 중요하다"며 "인공지능 기술 수준, 인공지능 윤리 관련 국내외 동향, 이해관계자의 목소리 등을 종합적으로 고려해 현장에서 공감할 수 있는 자율 규제 환경을 조성하기 위해 적극 지원하겠다"고 말했다.

스캐터랩 AI 챗봇 이루다 [사진=스캐터랩]

이 가운데 챗봇 이루다 개발사인 스캐터랩은 최근 과기정통부, 정보통신정책연구원(KISDI)과 협업해 개별 기업 특화 윤리점검표 1호로 '스캐터랩 AI 챗봇 윤리점검표' 최종안을 공개했다. 이번 점검표에는 스캐터랩이 AI 챗봇을 기획⋅개발⋅운영하는 전 단계에서 AI 윤리가 실현될 수 있도록 총 21개의 실질적인 점검 항목을 담았다.

인공지능 10대 윤리기준의 '인권보장', '다양성', '투명성'에 따라 AI 챗봇이 사람들의 삶에 도움이 되는 소통 경험을 제공할 수 있도록 하는지, 편향이나 차별적인 대화가 발견될 경우 검토와 평가 후 반영할 수 있는 일련의 절차가 준비돼 있는지, 알고리즘의 원리 또는 데이터 수집 방법 등 필요한 정보를 충분히 제공하고 있는지 등의 내용이다.

김종윤 스캐터랩 대표는 "작년 이루다가 직면했던 문제와 그 이후 스캐터랩의 해결 방법 모색 과정이 AI 산업과 우리 사회의 자산으로 공유될 수 있도록 윤리점검표를 만들었다"면서 "이루다가 우리 사회의 보편적인 윤리를 지향하면서 누구에게나 친근한 대화가 가능한 친구로서의 존재가 될 수 있도록 지속해서 노력하겠다"고 말했다.

문정욱 KISDI 지능정보사회정책센터장은 "AI의 기술발전과 윤리확보라는 두 마리 토끼를 동시에 잡기 위해서는 법적 규제를 당장 도입하기 보다는 기업 스스로가 AI 윤리 확보를 위해 노력하는 것이 중요하다"면서 "스캐터랩의 이번 윤리점검표 개발을 비롯한 노력이 국내 산업계 전반으로 확산되는 계기가 되기를 바란다"고 전했다.

/박진영 기자(sunlight@inews24.com)







포토뉴스