4차위, AI 대중화 '신뢰성' 필수

[아이뉴스24 김문기 기자] 4차산업혁명위원회가 인공지능(AI) 대중화를 위해 신뢰도를 제고할 수 있는 방안을 찾기 위한 노력을 경주하고 있다.

4차산업혁명위원회(위원장 윤성로)는 30일 4차위 회의실에서 산‧학‧연 민간전문가가 참여한 가운데, 신뢰할 수 있는 인공지능 활용 방안을 모색하기 위해 간담회를 개최했다.

이번 간담회는 인공지능분야의 기술 발전과 활용이 가속화되는 상황에서, 인공지능의 편향성 등이 사회적 이슈로 제기됨에 따라, 법·기술·산업·연구계 등 각 분야 전문가들이 참여하여 인공지능의 신뢰성을 저해하는 요소를 점검하고 효과적 대응방향에 대해 논의하기 위해 마련됐다.

이호영 정보통신정책연구원 본부장은 자동화된 의사결정의 영향이 확대되고 있어 인공지능 편향 완화 방안을 논의하는 것이 시급하다고 말하면서, '인공지능 알고리즘 편향과 대응방안'을 주제로 발표했다.

주요국의 대응 사례를 소개하면서 영국의 데이터윤리혁신센터와 같은 독립기관을 통한 관리강화, 자가진단‧감사‧인증제도 등을 통한 인공지능 의사결정의 신뢰성 제고방안 등을 사례로 제시했다.

그는 "우리가 구현하고자 하는 인공지능 시스템이 무엇인지에 대해서는 사회적 공론화 과정을 통해 다양한 주체가 모여 숙의해나갈 필요가 있다"고 의견을 더했다.

참석한 전문가들은 인공지능의 활용이 확산됨에 따라 공정성 제고가 더욱 중요해지고 있다는데 인식을 같이 하고, 인공지능의 개발 및 활용시 직면하는 어려움과 대응방안에 대해 논의했다.

인공지능 공정성의 정의에 대해 이상직 법무법인 태평양 변호사는 "공정성의 판단기준은 관점이나 문화 등에 따라 달라질 수 있다"며, "헌법 평등원칙 등을 공정성에 대한 기본적 합의로 두고, 형법 등 하위법령 위반행위를 공정성을 저해하는 행위로 해석해야한다"는 의견을 밝혔다.

편향성 원인에 대해 최재식 카이스트 교수는 "학습데이터나, 학습모델 또는 학습알고리즘의 편향이 주된 원인이며, 학습데이터 편향은 공정성에, 학습모델·알고리즘은 정확도에 영향을 주는 경우가 있다"고 말했다.

공정성이 중요한 이유에 대해 최인선 NIA 팀장은 "인공지능 알고리즘이 사회 각 분야 의사결정에서 주요 역할을 담당하게 되면서 영향력이 증대하였기 때문"이라는 의견을 제시했고, 고학수 서울대 법학전문대학원 교수는 "공정성은 인공지능 기술에 대한 신뢰성과 연결되어 활용에 영향을 줄 수 있다"고 밝혔다.

이어, 전문가들은 각 국의 대응 동향과 정책*을 공유하면서 우리나라가 나아가야할 대응방향에 대해 논의했다.

참여전문가 대부분은 현재 인공지능기술 성장 궤도와 각 계의 노력을 고려할 때, 우리나라 정책방향은 이용자의 권리를 보호하되, 과도한 부담보다는 자율규제 체계 중심으로 나아갈 필요가 있다고 제언했다.

이상직 변호사와 김대원 카카오 이사는 알고리즘을 직접 제어하는 방식의 접근보다는 기업 스스로의 윤리적‧법적 점검 장치 마련과 자발적 노력, 정부의 양질의 데이터 고도화 정책, 소비자의 건전한 이용 노력이 필요함을 제언했다.

한편, 최재식 교수와 최인선 팀장은 인공지능의 투명성 제고를, 강용성 와이즈넛 대표는 정부가 충분한 사회적 논의를 통해 관련 가이드라인을 수립‧운영하고, 가이드라인 준수 등에 대해 관리‧감독할 수 있는 독립기구 신설을 대안으로 제시했다.

고학수 교수는 학계에서도 대응방향에 대해 다양한 논의가 있으나, 아직까지 합의는 형성되지 않은 단계라고 하면서, 공정성 지표의 체계화와 인공지능 작동메커니즘에 대한 리터러시 제고가 필요하다고 했다.

이진규 네이버 개인정보보호책임자는 채용, 대출 등 개인에게 상당한 영향을 미치는 의사결정 알고리즘에 대해 개개 사안별로 관련 관계자들이 모여 문제점 등을 분석하고 합의하는 절차 마련의 필요성을 제언했다.

윤성로 4차위원장은 "인공지능 공정성 제고는 균형감이 중요한데, 인공지능 기술 발전과 혁신을 저해하지 않으면서도, 공정성‧투명성 등 가치를 제고하여 궁극적으로 신뢰할 수 있는 인공지능 생태계를 조성해나가는 것이 필요하다"고 말했다.

김문기 기자의 다른 기사 보기

• 4차위, 데이터 특별위원회 첫 운영…공공 CDO 도입 검토