오픈AI가 과제, 논문 등에 챗GPT를 썼는지 여부를 검증하는 기술을 개발했다. 그러나 이 기술의 효과성은 입증했지만, 이용자들의 반발과 기술의 악용 가능성 때문에 공개 여부를 결정하지 못하고 있다.
월스트리트저널(WSJ)은 4일(현지시간) 오픈AI가 약 1년간 이 기술의 출시를 준비해 왔으며 결정만 하면 시장에 내놓을 수 있는 상태라고 보도했다.
이용자에게는 보이지 않지만 챗GPT가 생성한 콘텐츠에 워크마크가 표시돼 이를 식별하는 방식이다. 이를 토대로 전체 문서에 워터마크가 있을 가능성을 수치로 보여준다. 이를 통해 99.9%의 정확도로 과제나 논문 작성 등에 사용된 콘텐츠가 챗GPT가 생성한 것인지를 알려준다.
오픈AI는 그러나 이 기술의 공개 여부를 두고 약 2년 동안 내부 논쟁을 해왔다. 투명성에 대한 약속과 더 많은 사용자 유치 사이에서 고심하는 것. 한 설문조사에서 챗GPT를 자주 사용하는 이용자의 3분의 1은 이 부정행위 감지 기술이 도입되면 챗GPT를 사용하지 않을 수도 있다고 답했다.
오픈AI는 이 기술이 영어를 모국어로 사용하지 않는 다른 언어 사용자에게 불리하게 작용할 수 있고, 누군가 이 기술을 악용해 특정 사람이나 그룹을 공격할 수도 있다는 점을 우려하는 것으로 알려졌다. 그러나 일선 학교 등에서는 학생들의 AI 부정행위를 막기 위해 이 기술 공개를 원하고 있다.
