[서병기의 문화인사이트]AI시대 공영방송의 역할은? “대항 데이터 구축해 AI모델의 편향성 감시해야”

[아이뉴스24 서병기 기자] 생성형 AI 시대에 공영방송은 어떤 역할을 해야 할까?

지난 22일 서울 여의도 KBS 아트홀에서 KBS 성평등센터(센터장 임수민) 주최로 열린 'AI시대의 미디어: 성평등·포용·다양성을 위한 새로운 질문들' 포럼은 공영방송인 KBS가 효율과 생산성을 중시하는 AI 격변기 속에서 성평등과 포용성, 다양성의 가치를 어떻게 지켜내고 실현할 것인지를 모색해보는 의미있는 시간이었다.

박장범 KBS 사장은 개회사에서 “AI가 학습하는 방대한 데이터 속에는 우리 사회가 오랫동안 쌓아온 편견과 불평등이 그대로 투영될 수 있다. 알고리즘이 특정 성별, 특정 집단의 목소리를 더 크게 증폭시키거나, 반대로 소외와 배제를 더욱 고착시킬 수 있다”면서 “데이터 속의 다양성을 드러내고 소외된 이들을 포함한 모두를 연결하는 포용적 콘텐츠를 만들어 가는 것이 AI 시대 공영미디어의 중요한 책무”라고 말했다.

이날 임소연 동아대 융합대학 교수는 ‘AI는 누구를 닮는가:함께 만드는 포용적 AI’ 발제를 통해 AI 챗봇이 대부분 여성형이라고 분석했다.

미국 MIT 소속 사회적 로봇공학자 신시아 브리질과 그 동료들이 설계한 사회적 로봇 실험에 따르면, 동일한 로봇이 각각 여성과 남성의 목소리로 참가자에게 기부를 독려하는 실험을 한 결과 여성 참가자들은 로봇의 성에 따른 기부금 차이를 거의 나타내지 않은 반면, 남성 참가자는 여성의 목소리를 한 로봇에게 더 많은 돈을 기부하는 모습을 보였다.

또한, 남성 고객의 경우에만, 여성형 챗봇과 상담할 때 대출상환율이 증가했다. 따라서 기업들이 AI 챗봇을 여성으로 만들 수밖에 없다.

임 교수는 “AI는 기술적 존재일 뿐만 아니라, 사회적 존재”라면서 “여성에 대한 고정관념을 강화하고 재생산하는 존재를 계속 만들 것인지에 대해 고민해봐야 한다”고 말했다.

이어 임 교수는 지난해 하버드비즈니스스쿨에서 14만3000명을 대상으로 대화형 생성형 AI 도구의 사용을 측정한 18개의 연구 데이터를 종합한 결과를 소개했다.

이에 따르면, 거의 모든 국가와 직업에서 보편적으로 여성은 남성보다 생성형 AI를 20% 덜 사용하는 것으로 나타났다. AI에 대한 접근성이 동일한 조건에서도 여성이 13% 덜 사용했다.

이유는 여성이 AI 사용시 부정행위나 불이익 위험을 더 심각하게 받아들이기 때문이다. 결과적으로 AI가 더 많은 남성 데이터를 학습하고 재생산할 우려가 제기된다.

옥스퍼드대학 인터넷연구소가 8000여명의 영국 성인을 대상으로 한 AI 사용 경험 조사에서도 “여성은 걱정하고 남성은 사용한다”는 결론이 나왔다는 것.

임 교수는 “AI 위험에 대한 인식이 감소할수록, AI윤리에 대한 신뢰가 높을수록 AI 사용 성별격차가 감소한다”면서 AI 사용 성별격차를 줄이는 포용적 AI를 미디어와 함께 만들어 갈 것을 제안했다.

이어 이정현 계명대 언론영상학과 교수는 ‘생성과 소외:공영방송 AI 제작 가이드라인과 젠더 재현의 공적 책임’이라는 제목의 발제를 통해 AI 영상 생성의 자동화가 공영방송의 공공성에 부합하는지를 물었다.

"생성형 AI 모델이 노이즈에서 특정 형태를 선택해 갈 때 중력을 제공하는 데이터의 양 뿐만 아니라 가중치에 개입하는 역할을 한다면, 영상 생성의 자동화는 공영방송의 공공성에 부합할지를 따져봐야 한다. 또한 기술 활용의 투명성을 제고하는 것으로 공공성의 실현이 충분할지도 생각해봐야 한다. 공영방송은 자동화 과정에서 소외된 가치를 살려내는 대항 데이터 구축에 나서야 한다“

이정현 교수는 생성형 AI 시대 공영방송의 역할로 편집권은 인간이 보유하고, AI로 생성된 콘텐츠는 시청자가 명확히 인지할 수 있도록 고지하며, 개인정보 보호, 저작권 준수, 데이터 보안 등 기술 오용을 지양해야 한다고 말했다. AI모델의 편향성 감시와 알고리즘적 공정성을 위한 공영방송의 개입도 필요하다고 한다.

마지막으로 이정현 교수는 ‘젠더 균형’ 상상이라는 제목으로 몇 가지 질문을 던졌다. 인간중심 AI, 포용적 AI를 구현하는 과정이 인간 중심적이고 포용적일까? 여성의 데이터가 양적으로 많아지면 AI의 젠더 편향은 사라질까? 젠더와 관련된 불편한 질문이나 대답들을 걸러내면 AI 젠더 편향은 해결될까? 지속적으로 생성하고 변화하며 확장하는 젠더 개념과 실천을 어떻게 AI에게 이해시킬 수 있을까?

발제후 이어진 패널 토크에서는 서영우 KBS AI방송혁신단장이 AI 도구를 통해 기획안과 아카이브를 만들 때, 편향성 유무를 체크해서 학습시킨 후 AI에 담아야 하며, AI가 학습하는 과정에서 편향성을 없애 정제된 데이터와 공익적인 대항 데이터를 만들어야 할 것을 강조했다.