[아이뉴스24 최기철 기자] 병원 인공지능(AI)의 성패는 모델의 정확도보다 의료 데이터를 진료·행정 업무와 연결하는 운영체계에 달려 있다는 진단이 나왔다. 의료기관이 AI를 본격적으로 활용하려면 기술 도입과 함께 개인정보·의료기기 규제, 책임 주체 등을 포괄하는 거버넌스도 갖춰야 한다는 지적이다.
양광모 성균관대 의과대학 교수 겸 삼성서울병원 AI연구센터장은 지난 8일 열린 서초구 엘타워에서 '제1회 AI 혁신 리더스 포럼'에서 병원 AI가 기술적 성능 검증을 통과하고도 실제 업무에 활용되지 못하는 원인으로 데이터와 업무의 단절을 지목하고 이렇게 주장했다.
병원 간 의료영상 공유의 표준과 범위가 제한돼 있고, 진료의뢰 업무가 여러 채널에 분산된 데다 AI 평가 지표와 실제 운영 성과도 제대로 연결되지 않는다는 것이다.
"AI판단 뒤 결과확인·업무수행 방향 결정도 고려"
양 교수는 이를 해결하려면 의료정보 표준화부터 데이터 구축, AI 판단, 업무 실행, 성과평가까지 이어지는 운영체계를 만들어야 한다고 제언했다. AI가 판단한 뒤 누가 결과를 확인하고 어떤 업무를 수행할 것인지도 도입 단계에서 정해야 한다고 강조했다.
삼성서울병원 컨소시엄이 6개 의료기관에서 의료영상 938건을 교류한 사례와 원내 구축형 대규모언어모델(LLM)로 전자 진료의뢰서 6624건을 분석한 결과도 소개됐다. 진료의뢰 담당자 배정 일치율은 최초 75.4%에서 전문가 재판정을 거쳐 84.7%까지 높아졌다고 양 교수는 설명했다.
병원 AI를 둘러싼 규제는 모델의 기능뿐 아니라 의료데이터 처리 방식과 실제 사용 목적에 따라 달라질 수 있다는 분석도 나왔다.
안주현 바른 변호사는 "병원 AI는 인공지능기본법과 디지털의료제품 관련 법률, 개인정보보호법 등의 적용을 동시에 받는다"며 "규제 대상은 모델 자체라기보다 데이터 처리와 임상적 사용행위의 결합"이라고 말했다.
같은 진료지원 기능이라도 제품의 표시·광고 내용과 의료현장에서의 사용 방식에 따라 의료기기 허가 대상이 될 수 있다는 설명이다.
안 변호사는 생성형 AI를 의무기록 작성이나 환자 안내에 활용할 때 환자 식별정보를 제거하고 내부망 또는 보안형 AI를 사용해야 한다고 했다. 가명정보와 보건의료데이터의 처리·반출·결합 절차도 AI 도입 전에 설계해야 한다고 덧붙였다.
"병원 내 AI 승인과 책임 주체 명확히 해야"
병원 내 AI의 승인과 책임 주체를 명확히 해야 한다는 주문도 이어졌다.
배기원 갈렙앤컴퍼니 이노베이션센터장은 검증 결과와 현장 성능의 차이, 반복되는 경보에 따른 피로, 운영 과정에서의 성능 저하, 편향과 특정 공급업체 의존 등을 병원 AI 도입 과정의 주요 위험으로 제시했다.
배 센터장은 이어 병원에서 사용 중인 AI를 목록화한 뒤 위험도에 따라 승인과 검증 절차를 달리해야 한다고 제안했다. 모든 AI를 동일한 기준으로 심의하면 공식 절차를 거치지 않은 '그림자 AI' 사용이 늘어날 수 있다는 주장이다.
임상 현장에서 개발한 AI 솔루션 사례도 공개됐다. 이세라 에이아이네이션 팀장은 세브란스병원과 21개월 동안 욕창 단계 판별 AI를 공동 개발한 과정을 소개했다. 개발진은 욕창 병변 데이터 3만3011건을 분류하고 촬영, 병변 영역 구분, 단계 판정, 결과 확인으로 이어지는 처리 절차를 구축했다.
욕창은 측정과 촬영, 단계 판단, 기록을 반복해야 하고 피부염 등 유사 병변과 구분하기도 어려워 의료진의 업무 부담이 큰 분야다. 이 팀장은 현장에서 생성된 데이터에 맞춰 분류체계와 평가 기준을 함께 정한 것이 개발의 핵심이라고 설명했다.
권찬영 정원엔시스 AI전략실장은 내시경 영상에서 용종을 실시간으로 찾아내는 진단 보조 기술을 발표했다. 영상의 각 장면을 따로 분석하면 표시가 흔들리거나 흐린 화면에서 잘못된 판단이 나올 수 있다. 권 실장은 여러 장면에서 같은 병변이 연속적으로 검출되는지 추적하고, 화질이 낮은 장면은 분석에서 제외하는 방식으로 신뢰도를 높일 수 있다고 설명했다.
"의료진의 최종 판단권 보장 필요"
패널토론에서는 의료기관이 보유한 데이터를 AI가 활용할 수 있는 형태로 표준화하고, AI의 위험 수준에 따라 승인·검증·모니터링 절차를 달리해야 한다는 의견이 제시됐다.
민규홍 서울성모병원 정보전략팀장은 분산된 의료데이터를 접근과 통제가 가능한 구조로 전환하고 기존 데이터의 의미와 품질을 보완해야 한다고 말했다.
이의규 바른 변호사는 행정지원 AI와 진료에 영향을 미치는 AI를 구분하고 의료진의 최종 판단권을 보장해야 한다고 강조했다. AI의 검증과 변경, 사고 대응 과정도 기록으로 남겨 책임 소재를 분명히 해야 한다고 했다.
이번 포럼은 법무법인 바른과 갈렙앤컴퍼니가 공동 주최했다. '병원 AI 대전환과 도약'을 주제로 열린 포럼에는 종합병원과 의료기관의 경영·기획·정보기술(IT) 담당자 등 100여명이 참석했다.
한국보건의료정보원과 에이아이네이션, 정원엔시스가 협력기관으로 참여했다. 참석자들은 의료데이터 관리와 AI 규제, 병원 내 의사결정 체계, 임상 현장의 AI 적용 사례 등을 논의했다.
염민섭 한국보건의료정보원장은 "의료 AI의 경쟁력은 알고리즘만으로 만들어지지 않는다"며 "양질의 데이터와 표준, 안전한 연계·활용체계가 함께 갖춰져야 의료현장의 혁신으로 이어질 수 있다"고 말했다.
이동훈 바른 대표변호사는 "의료 AI 도입 과정에서 AI와 의료기기 규제, 개인정보 보호, 의료데이터 활용, 의료법 등을 종합적으로 검토해야 한다"며 "의료기관의 AI 전환에 필요한 법률 지원을 강화하겠다"고 밝혔다.
/최기철 기자(lawch@inews24.com)