올트먼 “12월부터 챗GPT 성적인 대화 허용”

오픈AI 샘 올트먼 CEO가 오는 12월부터 챗GPT에서 성인 이용자에게 성적인(erotica) 대화를 허용하겠다고 밝혔다. 올트먼은 14일(현지시간) 엑스(X)에 올린 글을 통해 챗GPT의 새로운 버전 출시 계획을 알리면서 성인 이용자에게 허용되는 콘텐츠의 범위를 한층 더 확대하겠다는 방침을 밝혔다. 올트먼 CEO는 “몇 주 내로 우리는 사람들이 GPT-4o에서 좋아했던 특성을 더 잘 반영하는 새로운 버전의 챗GPT를 출시할 계획”이라며 “우리는 이 버전이 더 나을 것으로 기대한다”고 밝혔다. 이어 “당신이 만약 챗GPT가 사람처럼 더 자연스럽게 대화하길 원하거나 친구처럼 말해주길 원한다면, 그렇게 할 수 있도록 할 것”이라고 설명했다. 올트먼 CEO는 이어 “12월에는 연령 제한 기능을 더 완전히 도입하면서 ‘성인 이용자는 성인답게 대하자’는 원칙에 따라, (연령이) 인증된 성인에게는 성애 콘텐츠(erotica) 같은 훨씬 더 많은 것을 허용할 것”이라고 밝혔다. 올트먼 CEO는 이런 방침 변화의 배경으로 “우리는 정신건강 문제를 신중히 다루기 위해 챗GPT를 상당히 제한적으로 만들었는데, 정신건강 문제가 없는 많은 이용자에게는 챗봇이 덜 유용하고 덜 재미있게 느껴지게 했다는 점을 깨달았다”고 설명했다. 그러면서 “이제 우리는 심각한 정신건강 문제는 어느 정도 경감할 수 있게 됐고 새로운 도구들을 갖추게 돼 대부분의 경우에서는 이러한 제한을 안전하게 완화할 수 있게 됐다”고 덧붙였다. 미 온라인매체 악시오스는 AI 콘텐츠의 표현 수위에 대한 제한을 푸는 오픈AI의 이런 움직임이 챗봇 유료 구독자를 늘리는 데에는 도움이 될 수 있지만, 결국 사회적인 문제를 야기해 관련 법령 등 규제 압박을 높일 수 있다고 지적했다. 오픈AI의 방침에도 불구하고 AI챗봇에 정신건강을 해할 수 있는 요소를 더 엄정하게 필터링해야 한다는 요구는 높아지고 있다. 미성년을 대상으로 하지만 미국 캘리포니아주 의회는 지난 13일 컴패니언 AI 챗봇(AI companion chatbot)을 규제하는 법안을 제정하고 내년 1월 1일부터 시행할 계획이라고 밝혔다. 이날 개빈 뉴섬 주지사도 서명했다. 캘리포니아 주법은 감정적 영향을 미칠 수 있는 AI 챗봇 플랫폼 사업자에게 연령 확인 절차, 자살·자해 예방 프로토콜, ‘AI가 생성한 대화’라는 명시적 고지, 의료 전문가 행세 금지, 성적 이미지 차단, 미성년자 대상 ‘휴식 알림’ 기능 등을 의무화했다. 이는 단순한 기술 규제가 아니라 ‘AI가 인간의 정신에 개입할 수 있는 위험’을 미국에서 법적으로 처음 인정한 사례다.