클로드에 ‘AI 낙인’ 워터마크… 직장인·학생들 “도움 받는 것까지 들키나” [이규화의 글로벌AI]

EU AI규제에 따라 AI 생성물에 워터마크 삽입 "클로드 썼다는 이유로 부정행위자 취급" 반발 생산성 향상 위해 AI 활용 주문하는 것과 상반 AI 활용과 능력 사이 한계 불명확…갈등 예고 인공지능(AI) 챗봇을 업무나 학업에 활용하는 이들에게 최근 반갑지 않은 소식이 전해졌다. 앤트로픽이 생성형 AI '클로드'가 만들어낸 텍스트에 사람이 눈으로는 알아볼 수 없는 워터마크를 심는다고 밝혔기 때문이다. AI를 활용했다는 사실을 숨기고 싶었던 직장인이나 학생이라면 자신의 글이나 보고서에 보이지 않는 'AI 흔적'이 따라붙게 된 셈이다. 미국 IT 전문매체 테크크런치는 12일(현지시간) '일부 클로드 이용자들이 직장과 수업에서 AI 사용 사실이 드러날 것을 우려하며 반발하고 있다'고 소개했다. 논란의 핵심은 워터마크 자체보다 AI를 사용했다는 사실이 곧 능력 부족이나 부정행위로 해석될 수 있다는 사회적 분위기가 있다는 점이다. 이는 많은 기업과 학교에서 업무와 학업에 AI를 활용해 생산성을 높이라고 주문하는 것과는 상반된 문화인 셈이다. 앤트로픽에 따르면 지난 2일 이후 유럽연합(EU)에서 출시되는 새 클로드 모델에는 생성된 텍스트에 기계가 판독할 수 있는 표시가 들어간다. 텍스트 자체에 사람이 식별하기 어려운 신호를 삽입하는 방식이다. 이미지 등 지원되는 파일에는 콘텐츠 출처를 확인할 수 있는 디지털 서명 방식의 메타데이터도 붙는다. 앤트로픽은 향후 이용자와 제3자가 이 표시를 확인할 수 있는 탐지 기능도 제공할 계획이다. 앤트로픽이 워터마크를 도입한 배경에는 EU의 AI 규제가 자리 잡고 있다. 앤트로픽은 EU AI법 제50조의 'AI 생성 콘텐츠 투명성 관련 행동규범'에 따른 조치라고 설명한다. 이용자들의 반응은 엇갈린다. 테크크런치가 소개한 레딧 이용자들 가운데는 "학생이 문단을 정리하기 위해 클로드를 사용한 경우에도 AI 사용 흔적이 남는다", "작업의 대부분을 자신이 했는데 AI가 단순한 도구였다는 이유로 워터마크가 붙는 것은 부당하다"는 불만이 나왔다. 반면 다른 이용자들은 "AI가 생성한 결과물을 식별할 필요가 있다"며 워터마크를 옹호했다. 주목되는 것은 직장인들의 심리다. 지금까지 회사에서 AI를 활용하는 직원들은 효율성을 높이면서도 이를 공개적으로 드러내는 데 조심스러운 경우가 적지 않았다. AI로 보고서를 작성하거나 이메일을 다듬고 자료를 요약했다는 사실이 알려질 경우 "스스로 할 수 있는 일을 AI에 의존한다"는 평가를 받을 수 있다는 우려 때문이다. 실제로 AI 시대의 직장에서는 묘한 역설이 일어나고 있다. 기업은 직원들에게 AI를 적극 활용해 생산성을 높이라고 요구하면서도, 정작 직원 개인은 AI 사용 사실이 자신의 전문성이나 업무 능력을 낮춰 보이게 만들까 걱정하는 것이다. AI 활용 능력이 새로운 경쟁력이 되는 동시에 AI를 썼다는 사실 자체가 개인의 능력에 대한 의심으로 이어질 수 있는 문화가 공존하고 있는 셈이다. 이런 상황에서 클로드의 워터마크는 사회적 논쟁을 촉발할 가능성이 있다. AI를 이용해 초안을 만들고 사람이 사실관계를 확인하거나 표현을 다듬는 것과, AI가 만든 글을 아무런 검토 없이 자신의 결과물인 것처럼 제출하는 것은 전혀 다른 행위다. 하지만 워터마크는 이 둘을 구분하지 못한다. 앤트로픽도 이 한계를 인정한다. 회사는 워터마크가 발견됐다고 해서 해당 콘텐츠의 전체적인 출처가 확정되는 것은 아니라고 선을 긋는다. 사람이 작성한 원문을 클로드로 교정·번역·요약했을 수도 있기 때문이다. 반대로 워터마크가 발견되지 않았다고 해서 AI가 사용되지 않았다는 의미도 아니다. 텍스트를 많이 수정하거나 바꾸고 번역하거나 다른 글과 섞으면 흔적이 사라질 수 있다. 이번 논란은 결국 'AI 사용을 잡아내는 기술'보다 AI를 사용하는 방식에 대한 사회적 기준을 어떻게 정할 것인가라는 질문으로 귀결된다. AI 활용이 일상화되는 시대에 "AI를 썼느냐"만으로 사람을 평가한다면 오히려 기술 발전의 흐름을 거스르는 결과가 될 수 있다. 직장과 학교에서 필요한 것은 AI 사용 여부를 색출하려는 노력보다는 AI를 어디까지 활용할 것인지, 그리고 최종 결과에 대해 누가 책임질 것인지에 대한 기준을 세우는 일일 것이다. 이규화 대기자 david@dt.co.kr