중앙선거관리위원회는 29일 제21대 대선 후보자와 관련한 딥페이크물(인공지능 기술을 활용한 허위 사진·영상)을 제작·유포한 유튜버 등 3명을 공직선거법 위반 혐의로 고발했다고 밝혔다. 관련 법규가 제정된 이래 선관위가 딥페이크물 제작·유포자를 고발한 것은 이번이 처음이다.
선관위는 이날 보도자료를 통해 "선거가 임박한 시기에 후보자의 당선 또는 낙선 목적으로 인공지능(AI) 기술을 이용해 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상을 제작·게시한 유튜브 채널 운영자 3명을 선거법 위반 혐의로 수사기관에 고발했다"고 전했다.
선관위에 따르면 이들은 △특정 인터넷 커뮤니티 게시판에 후보자가 죄수복을 입고 감옥 안에 수감된 이미지 등을 총 35회 게시한 혐의 △다수가 구독하는 유튜브 채널에 AI로 구현한 여성 아나운서를 이용해서 뉴스 형식으로 후보자의 당선 또는 낙선을 도모하는 내용으로 제작한 10건의 영상을 게시한 혐의 △개인 SNS에 특정 후보자에 대한 부정적인 이미지를 주는 글·영상을 딥페이크로 제작해 게시·유포한 혐의 등을 받는다.
해당 제작물은 주로 이재명 더불어민주당 대선 후보나 김문수 국민의힘 대선 후보와 관련한 내용으로 알려졌다. 2023년 12월 신설된 해당 규정은 선거일 전 90일부터 선거일까지 선거운동을 위해 딥페이크를 제작·편집·유포·상영 또는 게시하는 행위를 금지한다.
이를 위반할 경우 같은법 제255조 5항에 따라 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처할 수 있다.
선관위는 "21대 대선이 일주일도 남지 않은 만큼 사이버상 위법행위 단속에 역량을 집중하고 있다"며 "유권자가 AI를 활용해 영상이나 이미지를 제작·활용할 때 선거법에 위반되지 않도록 각별한 주의가 필요하다"고 당부했다.
