페이스북, AI 이용해 ‘리벤지 포르노’ 사전에 퇴출

세계 최대 소셜미디어인 페이스북이 '리벤지 포르노(Revenge Porno)'와의 전쟁을 선포했다.

로이터통신은 15일(현지시간) 페이스북이 인공지능(AI)을 이용해 리벤지 포르노 등 불법 동영상을 차단할 계획이라고 보도했다. 리벤지 포르노는 헤어진 연인에게 보복하려는 목적으로 성 관련 동영상이나 사진 등을 당사자의 동의없이 인터넷에 불법으로 배포하는 행위를 뜻한다. 한국에서도 매우 심각한 사회적 문제로 떠오르고 있다.

페이스북은 이날 공식 블로그 공지에서 "우리는 이제 머신러닝(기계학습·컴퓨터가 방대한 데이터를 분석해 학습하고 미래를 예측하는 기술)과 인공지능을 사용해 성적인 사진과 영상들이 동의 없이 유포되는 것을 사전에 적발할 수 있다"며 "피해자를 포함한 누군가가 신고하지 않아도 불법 콘텐츠를 찾아낼 수 있다"고 설명했다.

기존에는 피해자가 먼저 불법 영상이나 사진유포를 신고하면 페이스북이 동일한 콘텐츠를 차단하는 방식이라 한계가 있었다. 페이스북 등 주요 소셜미디어들이 지난 15일(현지시간) 뉴질랜드 남섬 크라이스트처치의 이슬람 사원에서 일어난 총격사건을 찍은 동영상과 관련 계정을 일제히 삭제했으나 몇 시간 뒤 곧바로 복제 동영상이 등장하는 등 완벽한 차단에 애를 먹고 있다.

페이스북은 앞으로 AI를 활용한 새로운 기법으로 불법 콘텐츠를 적발하면, 운영팀의 검토를 거친 뒤 부적절한 콘텐츠로 판명될 경우 해당 콘텐츠를 삭제하거나 해당 계정을 폐쇄하는 조치를 취할 예정이다. 페이스북은 또 이용자들을 위해 내부 사이트인 '안전센터'에 리벤지 포르노 피해자들을 돕는 내용의 '내 동의 없이는 안 돼'(Not Without My Consent) 페이지를 개설해 피해자 지원단체를 소개하는 등의 서비스를 제공할 생각이다.디지털뉴스부기자 dtnews@dt.co.kr