오픈AI, 10대용 챗GPT 출시…폭력·성적대화 통제

숙제 베끼기 차단 ‘공부 모드’도 도입 오픈AI가 청소년 전용 챗봇 서비스를 선보였다. 최근 청소년 자해와 정신건강 문제와 관련해 여러 소송에 휘말린 가운데 나온 조치다. 18일(현지시간) 공개된 ‘청소년용 챗GPT’(ChatGPT for Teens) 모드는 13~17세 이용자가 직접 나이를 입력하거나, 시스템이 연령을 18세 미만으로 추정할 경우 자동으로 적용된다. 이 모드에서는 자해, 폭력, 섭식장애, 위험한 행동, 성적·노골적 대화와 같은 민감한 주제에 대해 답변이 강력히 제한된다. 또한 개인적이거나 민감한 사진을 업로드할 때 경고 메시지를 띄우는 기능도 포함됐다. 특히 챗봇이 인간처럼 감정을 표현하거나 정서적 의존을 유발하는 방식은 차단된다. 로맨틱한 표현이나 감정적 유착을 조장하는 언어는 사용할 수 없으며, 챗GPT가 인격체처럼 묘사되는 것도 금지된다. 부모를 위한 관리 기능도 강화됐다. 자녀의 사용을 일정 시간 차단하는 ‘방해금지 시간’(Quiet Hours)’과, 공부 모드를 자동으로 설정하는 ‘공부 시간’(Study Hours) 기능이 추가됐다. 공부 모드에서는 단순히 정답을 제시하지 않고, 질문을 되묻거나 단계별 풀이 과정을 안내해 학습을 돕는다. 챗GPT가 제공하는 정답을 베껴 숙제를 해결하는 것을 막는 장치다. 오픈AI는 아동·교육 전문가들의 연구를 바탕으로 이 기능을 설계했다고 밝혔다. 또한 부모가 직접 설정하지 않더라도, 숙제를 단순히 빠르게 끝내려는 의도를 감지하면 자동으로 공부 모드로 전환되는 ‘책임감 있는 숙제 알리미’ 기능도 마련됐다. 업계에서는 오픈AI가 기업공개(IPO)를 앞두고 법적 위험을 줄이기 위해 청소년용 챗봇을 내놓은 것으로 보고 있다. 실제로 챗GPT와 상호작용하던 일부 청소년이 자해나 극단적 선택을 하거나, 총기 난사·살해 등 범죄 모의에 챗GPT를 활용한 사례가 드러나면서 회사는 현재 여러 건의 소송에 직면해 있다.