[아이포럼 2021] "AI 윤리의 기본방향, 사람중심 기술발전 지향해야"

[아이뉴스24 신지훈 기자] #인공지능(AI) 알고리즘 오작동으로 자율주행 차량이 사고를 냈고, 운전자의 신체는 물론 생명에 위험을 초래했다.

#강력한 AI를 가진 기업들을 중심으로 담합이 발생했다. 이를 통해 시장 지배력을 남용 하는 등 불공정행위를 저질렀다.

#인간의 지능을 뛰어넘는 '초(超)지능'을 지닌 AI가 금융시장을 조작했다. 또 고객을 기망해 상품을 불완전 판매하는 행위가 발생했다.

AI 기술이 고도화, 복잡화됨에 따라 AI가 초래할 수 있는 부작용에 대한 우려가 커지고 있다.

국가지식재산위원회 초대 인공지능 지식재산특별전문위원장을 역임한 이상직 법무법인 태평양 파트너 변호사(과학기술정보통신부 AI 법제정비단 위원)는I 기술을 주도로 한 4차 산업혁명이 단순한 기술발전을 넘어 패러다임의 구조적 변화를 야기하고 있어 부작용을 방지하기 위한 규제와 관행을 점검할 필요가 있다고 강조한다.

이 변호사는 11월 2일 아이뉴스24 주최로 서울 드래곤시티호텔 그랜드볼룸 한라홀에서 열리는 '아이포럼 2021'에서 'AI의 윤리적 문제'를 주제로 한 강연을 통해 AI가 가져올 유토피아는 물론 디스토피아를 짚어 보고 이를 방지할 수 있는 AI 윤리 및 법제 정비에 대해 살펴본다.

이 변호사는 AI의 기술 발전이 '사람 중심'이 되어야 올바른 방향으로 이뤄질 것으로 내다봤다. 이 같은 환경을 조성하기 위해선 AI의 윤리적 가이드가 필수라는 설명이다.

이미 유럽연합(EU)과 미국 등 각국 정부와 글로벌 기업들은 다양한 AI 윤리기준을 마련한 상황이다. 특히 EU는 AI로 발생할 수 있는 위험을 '용납할 수 없는 위험', '높은 위험', '낮은 위험', '최소한도 위험' 등 단계별로 분류하고 합당한 규제를 법으로 만들 것을 제안했다.

우리 정부도 지난해 12월 AI 윤리기준을 발표했다. 정부와 공공기관, 기업, 고객이 AI 개발과 활용 과정에서 지켜야 할 주요 원칙과 핵심 요건을 담았다.

문제는 윤리기준을 세운다고 해서 모든 부작용이 해결되는 것은 아니라는 것이다. 윤리는 말 그대로 양심에 따라 해야 할 도리다. 강제성을 띄지 않는다. AI를 활용하는 정부, 공공기관, 기업, 고객이 윤리기준을 숙지하고 경각심을 불러일으키는 것에 그친다. 지키는 시늉만 하더라도 향후 문제 발생 시 책임감경 등의 면죄부를 받을 가능성이 크다.

이 때문에 윤리기준을 세우고 입법을 검토하는 것 또한 하나의 해결책이 될 수 있다. 이 변호사 또한 입법 검토는 해야 하는 것이라고 말한다. 다만 신중하게 접근해야 할 필요성이 있다고 설명한다. AI의 미래에 대한 섣부른 규제가 AI의 성장동력 정체를 야기할 수 있다는 것이다.

이 변호사는 "AI 이용자의 자정 의지와 자정 능력으로 시장에서 자정 기능을 작동할 수 있는 시스템을 만들어야 한다"며 "섣불리 법을 적용했다 AI 산업 발전을 가로막을 수 있다. AI 초기 규제는 최소화함과 동시에 자율규제와 이용자의 견제시스템을 독려해야 한다"고 강조했다.

이 변호사는 11월 2일 '아이포럼 2021'에서 'AI의 윤리적 문제'에 대해 보다 심도 있게 살필 예정이다.

신지훈 기자의 다른 기사 보기

• '인간과 인공지능의 공존 탐구'…11월 2일 개최

• 인간과 인공지능의 공존을 묻는다