"선거 딥페이크 가중 처벌"… 지선 예비후보 첫 고발

AI 제작 사실 표시 없이 SNS 게시·유포 인공지능(AI)으로 생성한 영상물(딥페이크 영상)로 허위사실을 공표한 행위에 대해 가중 처벌하는 규정이 2023년 12월 신설된 후 첫 고발 사례가 나왔다. 중앙선거관리위원회는 오는 6월 3일 시행되는 제9회 지방선거를 위해 허위의 딥페이크 영상을 AI로 제작한 후 소셜미디어(SNS)에 게시한 입후보예정자 A씨를 9일 울산 남구선관위가 공직선거법 위반 혐의로 경찰에 고발했다고 밝혔다. 중앙선관위에 따르면 A는 '외국의 유명 시사 주간지(타임지)에서 OO의 발전을 이끌 인물로 A를 선정했다' 등 허위의 딥페이크 영상을 제작했다. AI로 구현한 아나운서가 뉴스를 보도하는 형식인 이 딥페이크 영상에 AI로 제작한 사실을 표시하지 않고 개인 SNS에 게시·유포한 혐의를 받고 있다. 공직선거법에 따르면 딥페이크 영상임을 표시하지 않고 당선될 목적으로 후보자나 후보자가 되고자 하는 자에게 유리한 허위사실을 공표한 사람은 5년 이하의 징역 또는 5천만원 이하의 벌금에 처해질 수 있다. 선관위는 고발 조치와 별도로 위 영상에 AI 생성물임을 표시하지 않은 행위에 대해 A씨에게 500만원의 과태료도 부과했다. 지난달 22일 강원 속초시선관위도 지방선거와 관련해 AI 생성물임을 표시하지 않고 자신이 지지하는 입후보예정자를 위한 찬양 노래를 SNS에 게시한 사람에게 과태료 500만원을 부과한 바 있다. 현행법은 누구든지 선거일 90일 전(3월 4일)까지 선거운동을 위해 AI기술 등을 이용해 실제와 구분하기 어려운 가상(딥페이크) 음향·이미지·영상을 제작·편집·유포·상영·게시하는 경우, 해당 정보가 AI기술 등을 이용해 만든 가상의 정보라는 사실을 명확하게 인식할 수 있도록 영상 등에 표시하도록 규정한다. 이를 위반하는 경우 1000만원 이하 과태료가 부과될 수 있다. 중앙선관위 측은 "지방선거를 앞두고 위법한 딥페이크 영상 등의 확산을 차단하기 위해 '딥페이크 등 허위사실공표·비방 특별대응팀'을 운영하고 있다"며 "앞으로도 유권자의 올바른 판단을 저해하고 선거의 공정성을 훼손하는 딥페이크 영상 등 유포자에 대해 강력 대응할 방침"이라 강조했다. 팽동현 기자 dhp@dt.co.kr