![[팽동현의 테크딥다이브] 음성으로 넓힌 생성형AI 영토…‘AI커버곡’ 논란 키울까](http://contents.dt.co.kr/images/202403/2024033102109931081003[1].jpg "[팽동현의 테크딥다이브] 음성으로 넓힌 생성형AI 영토…‘AI커버곡’ 논란 키울까")
지난 29일(이하 현지시간) 오픈AI는 홈페이지에 '합성 음성의 도전과 기회 탐색'이라는 제목의 글을 게재, 자사 '보이스엔진'을 통한 음성 생성 결과물을 공개했다. 앞서 회사는 USTPO(미국특허청)에 동명의 상표를 지난 19일 출원했는데 그 용도에는 디지털 음성비서도 포함됐다.
이 '보이스엔진'은 15초 분량의 음성 샘플만 있으면 원래 화자의 목소리와 유사하고 사실적인 음성을 만들어낼 수 있다. 텍스트 입력 등을 통해 해당 목소리로 다양한 주제나 언어로 말하도록 하는 게 가능하다. 실제로 이날 공개된 합성 음성은 원본 화자와 구분이 어려운 수준의 목소리를 내며 다양한 사례에 쓰였다.
오픈AI는 '보이스엔진'을 2022년 말 처음 개발했으며, 그동안 챗GPT의 읽어주기 기능을 비롯해 TTS(텍스트음성변환) API(응용프로그램인터페이스)에 쓰이는 사전설정 음성 등에 사용 해왔다고 밝혔다. 오용 가능성이 있어 지난해 말부터 소규모 테스트만 진행해 왔으며, 대규모 배포에 대해선 신중하게 접근한다는 입장이다.
회사 측은 △언어 구사·청취·이해 관련 장애 또는 질환 보유자를 위한 보완대체의사소통(AAC) △문맹·어린이들을 위한 읽기 지원 △동영상이나 팟캐스트 등 콘텐츠 다국어 번역 △각종 원격 서비스 환경의 다국어 지원 등 긍정적인 효과와 여러 파트너들의 해당 테스트 사례를 열거했다. 그럼에도 "사람의 목소리와 유사한 음성을 생성하는 것은 심각한 위험을 수반하며, 특히 선거가 있는 해에는 더욱 주의해야 한다는 점을 잘 알고 있다"고 덧붙였다.
올해 초 미국에서는 뉴햄프셔주 프라이머리(대선후보 예비경선)를 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 바이든 대통령의 가짜 목소리를 담은 전화가 걸려와 문제가 된 바 있다. 또 유튜브 등에는 현재 활동 중이거나 작고한 가수들 또는 유명인사들의 음성을 추출해 다른 노래에 씌워서 만드는 'AI 커버곡'도 범람하고 있다. 문제는 음성에 대한 권리는 국내뿐 아니라 세계적으로도 아직 논의가 많이 진척되지 않은 상황이다.
정원준 한국법제연구원 부연구위원은 'AI 커버곡 사례를 통해 본 생성형 AI의 법률 문제' 논문을 통해 "타인의 음성·음원에 대한 이용허락 없이 제작한 AI 커버곡은 여러 권리 침해를 둘러싼 법률 쟁점이 제기될 수 있다"며 "우리나라 저작권법은 가수의 목소리를 저작권의 보호 대상으로 하고 있지 않아 목소리에 대한 무단 사용이 어떤 권리의 침해를 구성하는지부터가 명확하지 않다"고 지적했다.
오픈AI에 따르면 '보이스엔진' 파트너들은 원 화자의 동의나 법적 권리 없이 다른 개인·단체를 사칭하는 것을 금하는 약관을 따르며, AI로 생성된 음성임을 명시하고 있다. 또 회사는 AI 생성 음성의 출처 추적을 위한 기술과 그 사용에 대한 모니터링 등 안전조치를 구현했다. 대중적으로 쓰이려면 원 화자의 동의·제공 여부를 인증할 수 있고 유명인물 사칭 등을 감지할 수 있는 환경이 마련돼야 한다는 입장이다. 한편 기존 음성 기반 인증 방식은 단계적으로 폐지할 것을 권했다.
최경진 한국인공지능법학회장(가천대 법학 교수)은 "음성권이 인정된 하급심 판례가 있지만 그 외에는 일반적인 권리로 받아들여진다고 보기 어려우며, 이는 한때 논의됐던 음성녹음 금지와도 무관하지 않다"며 "AI 커버곡 등에 가수의 음성이 무단으로 쓰인다면 저작물 동일성 유지 원칙에 따라 저작 인격권 침해에 해당할 수 있다. 하지만 일반인의 목소리를 AI에 학습시킨 경우 개인정보보호법을 위반한 게 아니라면 마땅한 안전장치가 없으므로 이에 대한 논의가 필요하다"고 밝혔다.팽동현기자 dhp@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
