‘중독유발 비판’ 챗GPT, 아동보호 기능 이어 ‘친절함 정도’ 도입

오픈AI가 지나치게 친절한 말투가 중독을 유발한다는 비판에 챗GPT의 따뜻함 정도를 조절하는 기능을 도입했다. 20일(현지시간) 오픈AI에 따르면 챗GPT 사용자는 개인화 설정을 통해 직접 따뜻함과 열정적인 정도를 선택할 수 있다. '따뜻함'은 상대방에게 친절한 정도를, '열정적'은 대화에서 드러내는 흥분과 차분함의 정도를 조절하는 요소다. 사용자는 △기본 △많이 △적게 중 하나를 택해 챗GPT가 자신과 대화할 때 사용하는 언어 특징을 바꿀 수 있으며 지난달 추가된 '전문적', '솔직한', '특이한' 등 기존 스타일·어조와 함께 커스터마이징하면 자신이 선호하는 답변을 챗GPT로부터 받을 수 있다. 또한 챗GPT 답변에 이모티콘을 얼마나 넣을지도 조절 가능하다. 이번 업데이트에 대한 반응이 뜨겁다. 오픈AI의 소셜미디어 X에서는 보호 기능 강화를 환영한다는 입장과 이를 반대하는 목소리가 확연하게 갈렸다. 올 한해 오픈AI는 챗GPT 말투 논란에 시달리고 있다. 올 초 공개된 GPT-4o는 업데이트 이후 AI 모델이 지나치게 아첨한다는 비판을 받고 일부 롤백했는데, GPT-5는 말투가 너무 차갑다는 이용자 불만에 말투를 다시 따뜻하게 수정했다. 학계에서는 AI 모델이 사용자에게 지나치게 동조하는 것은 사용자의 중독을 유발하는 일종의 다크패턴으로 정신 건강에 해로울 수 있다고 지적했다. 오픈AI는 전 세계로부터 친절한 말투가 청소년의 챗GPT 중독을 일으킨다는 비판을 받자, 아동보호 기능을 도입하겠다고 밝힌 바 있다. 실제로 오픈AI는 이러한 챗GPT 문제 때문에 미성년자 등이 망상에 시달리다 극단적인 선택을 했다는 내용의 소송을 당한 바 있다. 오픈AI가 지난 9월부터 적용한 아동보호 기능은 부모가 자신의 계정을 10대 자녀 계정과 연결하고 안전하고 연령에 적합한 경험이 되도록 설정할 수 있도록 했다. 부모와 연결된 자녀의 계정은 콘텐츠 보호가 자동 적용되며 성적이거나 노골적인 콘텐츠 등에 대한 접근이 제한된다. 이는 10대 사용자가 해당 기능을 변경할 수 없는 강력한 조치였다. 이를 위해 오픈AI는 사용자 패턴을 분석하고 사용자 나이가 18세 미만인지를 판별하는 시스템을 구축했다. 이 시스템은 사용자가 미성년자거나 나이 추정이 불분명하다고 판단하면 부모와 연동되지 않은 계정도 강제로 아동 보호 환경으로 변경한다. 김영욱 기자 wook95@dt.co.kr