[AI 컨닝 파장] 연이은 부정행위 AI업계도 '난감'..."컨닝 차단 기능, 현실적으로 어려워"

[AI 컨닝 파장] 연이은 부정행위 AI업계도 '난감'..."컨닝 차단 기능, 현실적으로 어려워"

2027 대학수학능력시험 D-3⋯AI 컨닝 자수 사건에 국가시험 공정성 우려 확산
AI 서비스 악용, 어떻게 제한해야 하나⋯"사회적 합의, 새롭게 정의해야 할 때"

[아이뉴스24 최효경 기자] 세무사 시험 수석 합격자의 'AI 컨닝' 자수 사건이 인공지능(AI) 업계에 씁쓸한 경고를 남겼다. 사람의 생산성을 높이려 만든 생성형 AI가 국가시험의 공정성을 해치는 도구로 쓰일 수 있다는 사실도 충격이지만, AI 서비스 기업이 이러한 AI 악용 사례를 막아낼 뾰족한 해법이 마땅치 않기 때문이다.

[AI 컨닝] "안경만 막아선 안된다"⋯AI 업계가 본 부정행위 차단 . [사진=챗GPT]

"이용자 데이터 실시간 추적 불가능한데"⋯난감한 AI 업계

16일 AI 업계의 의견을 취합하면, AI는 사용자가 질문한 내용만으로는 위법성 여부를 판단을 할 수 없을 뿐 아니라, 컨닝을 차단하는 기능도 제공하기가 어렵다.

현재의 AI 기술은 정답을 알려주는 데 탁월한 능력을 발휘하지만, 질문자의 의도나 배경까지 고려하지는 않기 때문이다. AI 업계 관계자는 "시험 주관 기관이 비교용 문항 데이터를 제공하면 문항의 일치·유사 여부를 확인할 수 있지만, 시험지 일부만 촬영하거나 문항이 음성으로 전달되면 대조 정확도가 떨어질 수 있다"고 설명했다.

기술적으로 가능하더라도 이를 실현하는 과정에서 여러 가지 장애들이 있다. 무엇보다도 AI가 이용자의 입력 데이터를 실시간으로 들여다보고 추적해야 한다는 것이다. 생성형 AI 업계 관계자는 "개인정보를 상시 수집·감시하는 방식이 될 수 있어 서비스 차원에서 택하기 어렵다"며 답답함을 토로했다.

같은 문항이 기출문제집이나 학습자료에도 실릴 수 있기 때문에 차단 기준을 세우기 어렵다는 문제도 있다. 이 관계자는 "시험 문제처럼 보이는 질문을 일괄 차단하면 정상적인 학습까지 제한할 수 있고, 반대로 질문에 답하면 실제 시험의 부정행위에 쓰일 수 있다"고 말했다.

AI가 답을 잘못 낸 것이 아니라 정상적으로 작동한 결과가 시험 공정성을 해치는 데 악용됐다는 점에서 업계는 이번 사태를 환각이나 해킹과 다른 차원의 문제로 보고 있다. 또 다른 업계 관계자는 "그동안 AI 안전은 모델을 만드는 단계에서 주로 논의됐지만, 이번은 AI가 일상에 스며든 뒤 발생한 문제"라며 "기술을 멈출 수는 없는 만큼 AI가 실제로 쓰이는 현장의 규칙과 제도가 그 속도를 따라가야 한다"고 말했다.

현실적인 대안은 물리적 보안⋯"통신 차단하고 의심 기기 금지시켜야"

AI 업계가 꺼낸 대책은 역설적으로 AI가 아닌 물리 보안이다. 일부 관계자들은 "공항 보안 검색대처럼 입실 전 전자기기와 안경을 개별 확인하고, 금속 탐지와 소지품 검사를 강화해야 한다"고 입을 모았다.

전파 차단도 현실적인 대안으로 거론됐다. 시험장 안의 이동통신·무선 통신을 제한해 촬영한 문제와 AI 답안이 스마트폰을 거쳐 오가는 경로를 끊는 방법이다.

최병호 고려대 인공지능연구소 교수는 부정행위 경로를 입력·중계·통신으로 나눠 봐야 한다고 지적했다. 최 교수는 "카메라나 스마트 안경으로 문제를 입력하고, 스마트폰을 중계 수단으로 쓰고, 외부 AI와 무선 통신하는 방식이 결합되는 만큼 특정 기기 하나만 막아서는 소용이 없다"고 언급했다.

그는 "입실 때 안경 실물을 확인하고 검수 뒤 교체를 막는 표식을 붙이는 한편, 감독 인력을 늘려 이상 행동을 관찰하는 방식이 단기적으로 가장 현실적"이라고 설명했다.

중장기적으로는 AI 사업자도 시험 주관기관과 함께 통제 체계를 설계해야 한다는 제언도 나왔다.

AI 서비스 업계 관계자는 "시험 주관기관이 허용 기기와 사용 범위를 정하고 현장 감독·증거 확인·최종 판정을 맡되, 기기 제조사는 촬영·녹음·외부 연결 상태를 확인하거나 제한할 수 있는 기능을 제공하고, AI 사업자는 주관기관과 합의한 범위에서 응답 제한과 연동 기능을 지원해야 한다"고 말했다.

/최효경 기자(hyomirror@inews24.com)