"AI 때문에 손실났어요" 누구 잘못?…금융 AI 가이드라인 나온다


금융당국, 금융분야 AI 활성화 워킹그룹 마련해 연말까지 활성화 방안

[아이뉴스24 김다운 기자] 인공지능(AI)의 잘못으로 내 투자자산이 큰 손실을 입게 되면 누가 책임져야 할까? 금융산업에 빠르게 도입되고 있는 AI의 법적 지위와 책임 소재 등을 명확히 하는 가이드라인이 마련될 예정이다.

금융위원회는 16일 '금융분야 AI 활성화' 워킹그룹 첫 회의(킥오프)를 개최했다고 밝혔다.

워킹그룹에는 AI 전문기업 및 핀테크 업계, 금융회사 및 유관기관 뿐만 아니라 민간 전문가들이 참여한다.

코로나19로 디지털 전환이 가속화됨에 따라 AI, 빅데이터 등 4차 산업혁명 기술의 융합·활용이 중요해지면서 정부는 '한국판 뉴딜'의 일환으로 '1·2·3차 전 산업 AI 융합 확산'을 통한 디지털 뉴딜을 추진 중이다.

[그래픽=아이뉴스24]

특히 금융분야는 신용평가·여신심사·보험인수·자산운용 등 데이터 활용이 활발하여 AI도입의 효과가 클 것으로 예상되고 있다.

AI로 인해 금융서비스가 보다 낮은 비용으로 제공되고 정교한 심사 등이 가능해질 것이라는 기대다.

예를 들어 카카오뱅크는 AI 기반의 챗봇 고객상담이 전체의 39%를 차지한다. 최근에는 인공지능이 사고차량의 사진을 보고 예상수리비를 자동으로 산출하는 AI 기반 자동차보험 보상서비스도 나왔다.

금융당국은 금융분야 AI 활성화 워킹그룹을 통해 AI 금융서비스 활성화를 저해하는 금융분야 규제를 점검하고 규제 개선 방안을 발굴한다는 방침이다.

AI 금융서비스 개발을 촉진할 수 있도록 '금융분야 인공지능 실무 가이드라인(가칭)'도 개발한다.

가이드라인에는 ▲AI의 법적 지위 및 책임 소재 ▲AI 금융서비스 개발시 및 AI의 업무처리시 가명정보 활용 방식 ▲ AI 알고리즘의 저작권 주체 ▲AI 금융서비스의 보안성 유지 방안 및 보안성 평가 기준 ▲금융소비자 손해 발생시 손해배상 방안 및 절차 등이 포함될 예정이다.

AI 개발을 활성화하기 위한 인프라도 구축된다.

금융회사·핀테크 등이 AI 개발에 필요한 데이터를 원활히 확보할 수 있도록 하는 데이터 인프라 '금융분야 AI 데이터 라이브러리'를 만들 예정이다.

AI 허브(Hub) 사업과 연계하여 금융용어를 AI가 학습할 수 있는 말뭉치 형태로 전처리하고, 가명정보 형태로 데이터를 집중하는 시스템이다.

신용정보원, 금융결제원, 금융보안원 등 금융분야 인프라 기관을 활용하고, CreDB(빅데이터 개방시스템), 데이터 거래소, 공공기관, 기업 등과 연계하는 방안을 고려하고 있다.

과기정통부 AI 법제정비단과 협력해 ,적법성·공정성 등 윤리 원칙을 담은 '금융분야 인공지능 윤리 가이드라인'도 마련된다.

아울러 데이터 인프라를 포함하여, 금융회사·핀테크 등의 원활한 AI 연구개발을 지원하는 AI 테스트베드도 만들 예정이다. AI 금융서비스를 사전에 테스트 및 검증할 수 있는 환경을 지원하기 위한 것이다.

금융분야 AI 활성화 워킹그룹 구성안 [금융위]

금융당국은 워킹그룹을 통해 AI 특화 소비자 보호 제도를 마련하는 동시에 AI를 활용한 검사·감독 체계를 구축하기로 했다.

AI의 잘못된 업무처리 등으로 인한 소비자 피해 발생시 책임주체, 구제 절차 등에 대한 기준을 마련해 가이드라인과 법제화 시 반영한다.

특히 인공지능이 도출한 결과에 대해 객관적 설명이 가능한 '설명가능한 AI(XAI)'에 대한 기준을 적립할 계획이다.

오는 8월5일 시행되는 개정 신용정보법에서는 AI 등을 활용한 자동화평가 결과에 대해 설명을 요구하고 이의를 제기할 수 있는 프로파일링 대응권이 도입된다.

이 밖에 AI를 활용한 금융감독원의 검사·감독 시스템 고도화 및 AI 기반 검사 시범사업 실시 등도 검토하기로 했다.

금융당국은 금융분야 AI 활성화 워킹그룹을 연내 운영해 연말까지 방안을 마련할 예정이다.

워킹그룹 운영과 함께 금융분야 AI 활성화 관련 정책과제 발굴을 위한 정책연구용역도 이달부터 11월까지 병행한다.

한편 금융분야 AI 활성화 워킹그룹에는 금융위 금융혁신기획단장·금융데이터정책과장, 금융감독원 IT·핀테크전략국 부국장, 신한AI 배진수 대표, 신한은행 장현기 디지털R&D센터 본부장, KB국민은행 구태훈 AI혁신센터 센터장, 우리은행 전유승 AI사업부 부장, 마이크로소프트 조장래 전무, 삼성SDS 조남용 부장, 에이젠글로벌 강정석 대표, 인터리젠 정철우 대표, 서울대 고학수 교수, 신용정보원·금융보안원·금융결제원 등이 참여한다.

김다운 기자 kdw@inews24.com







포토뉴스