오픈AI가 앤트로픽에 이어 인공지능(AI)이 작성한 텍스트를 식별할 수 있는 워터마크 기술을 도입한다.
오픈AI는 5일(현지시간) 유럽연합(EU)의 AI법이 요구하는 생성형 AI 투명성 규정에 맞춰 ‘텍스트그레인’(TextGrain) 기술을 적용한다고 밝혔다.
텍스트그레인은 AI가 문장을 생성하는 과정에서 특정 단어를 선택할 때 미세한 통계적 패턴을 삽입하는 방식의 식별 기술이다. 이를 통해 생성된 글이 AI에 의해 작성됐는지 판별할 수 있게 된다.
오픈AI는 해당 기술을 적용하더라도 답변 품질이나 성능, 가독성에는 사실상 영향을 주지 않는다고 설명했다.
다만 텍스트 길이가 짧거나 수학 공식처럼 단어 선택 폭이 제한된 콘텐츠의 경우 식별 정확도가 낮아질 수 있다고 덧붙였다. 또한 사용자가 생성된 문장을 수정할 경우 탐지 성능 역시 크게 떨어질 수 있다는 점도 한계로 제시했다.
예를 들어 400토큰 분량의 문서에서 단어의 10%를 유의어로 바꾸면 탐지 정확도가 92%에서 66%로 감소하고, 25%를 교체하면 17% 수준까지 낮아진다는 설명이다.
오픈AI는 앞으로 수주 내 EU 지역에서 제공되는 챗GPT와 코덱스 결과물에 텍스트그레인을 적용할 예정이다.
개발자용 API 서비스에는 기본적으로 비활성화된 상태로 제공되며, 기업이나 기관이 필요에 따라 기능을 직접 활성화할 수 있도록 할 계획이다.
워터마크 여부를 확인하는 탐지 도구는 우선 승인된 연구자와 전문 기관에 한해 제공된다.
앞서 앤트로픽도 지난 8월 유사한 AI 콘텐츠 식별 기능을 도입한 바 있다. 당시 일부 이용자들이 클로드 구독 해지를 언급하며 반발하자, 회사 측은 해당 기능이 EU 규제에 따른 조치이며 다른 AI 기업들 역시 비슷한 방식을 채택하게 될 것이라고 설명했다.
구글의 생성형 AI 서비스 제미나이 역시 ‘신스ID-텍스트’(SynthID Text)라는 유사한 식별 기술을 운영하고 있다.
오픈AI는 이날 새로운 광고 정책도 공개했다. 챗GPT의 이미지 생성 기능에 한해 미국 내 일부 광고주를 대상으로 시각적 광고를 시험 적용한다는 내용이다.
회사 측은 광고가 챗GPT의 답변 내용에 영향을 미치지 않으며, 이용자 대화 역시 기존과 동일하게 비공개로 관리된다고 강조했다.
맹준호 기자(next@dt.co.kr)실시간 주요뉴스
기사 추천
- 추천해요 0
- 좋아요 0
- 감동이에요 0
- 화나요 0
- 슬퍼요 0