[아이뉴스24 설래온 기자] 챗GPT와 관련한 청소년 자해·정신건강 논란으로 여러 소송에 직면한 오픈AI가 안전장치를 강화한 '청소년용 챗GPT'를 출시했다.
18일(현지시간) AP통신 등에 따르면 오픈AI는 이날 청소년의 학습을 돕고 유해 콘텐츠 노출을 제한하는 '청소년용 챗GPT'(ChatGPT for Teens) 모드를 출시했다.
이용자가 나이를 13~17세로 입력하거나 시스템이 18세 미만으로 추정할 경우 해당 계정에는 청소년용 모드가 자동으로 적용된다.
청소년용 모드에서는 자해와 폭력, 섭식장애, 위험 행동, 성적·노골적 콘텐츠 등에 대한 답변이 강하게 제한된다. 민감하거나 사적인 사진을 올릴 경우 주의를 주는 기능도 적용됐다.
챗GPT와 청소년 사이의 과도한 정서적 유착을 막기 위한 장치도 마련됐다. 챗GPT가 인간처럼 행동하거나 감정과 자의식을 가진 인격체처럼 묘사하는 행위를 제한하고 로맨틱한 표현이나 정서적 의존을 유도하는 대화도 차단한다.
부모가 자녀의 챗GPT 사용을 관리할 수 있는 기능도 강화됐다. 일정 시간 챗GPT 사용을 차단하는 '방해금지 시간'(Quiet Hours)을 설정하거나 '공부 시간'(Study Hours)을 통해 공부 모드를 기본으로 적용할 수 있다.
공부 모드는 청소년이 챗GPT가 제공하는 답을 그대로 베끼는 것을 막는 데 초점을 맞췄다. 질문에 곧바로 정답을 제공하기보다 다시 질문을 던지거나 단계별로 원리를 설명하면서 스스로 답을 찾도록 유도하는 방식이다.
공부 시간이 설정되지 않았더라도 이용자가 숙제의 정답만 얻으려는 것으로 판단되면 자동으로 공부 모드로 전환하는 '책임감 있는 숙제 알리미' 기능도 추가됐다.
오픈AI가 이처럼 청소년 보호 기능을 대폭 강화한 것은 챗GPT를 둘러싼 안전성 논란이 이어지는 가운데 나왔다.
챗GPT와 대화하던 일부 청소년의 자해·극단적 선택과 관련한 논란이 불거진 데 이어 챗GPT를 범죄 모의에 이용했다는 사례도 나오면서 오픈AI는 현재 여러 관련 소송에 직면해 있다.
/설래온 기자(leonsign@inews24.com)