페북, 가짜뉴스 양산 `딥페이크` 동영상 금지시킨다

페이스북이 미국 대선을 앞두고 '딥페이크'(deepfake)로 알려진 조작 동영상의 게시를 금지한다고 워싱턴포스트(WP)가 7일(현지시간) 보도했다. 딥페이크는 정교한 AI(인공지능) 알고리즘을 이용해 조작된 이미지나 동영상을 말한다.

기존에도 이미지·동영상 조작은 있었지만, 딥페이크는 AI를 활용해 감쪽같이 조작이 이뤄지면서 진위를 가리기가 매우 어렵다고 평가된다.

이에 따라 대선을 앞둔 미국에서는 다른 사람의 동영상에 대통령 후보의 얼굴을 합성해 실제로 하지 않은 발언이나 행동이 있었던 것처럼 꾸민 동영상이 유포되며 선거 결과에 영향을 미칠 수 있다고 우려하고 있다.

이런 가운데 페이스북은 이날 이용자들이 컴퓨터로 제작했거나 고도의 기술로 조작된 딥페이크 동영상이 올라올 경우 앞으로 이를 삭제하겠다고 밝혔다.

페이스북의 글로벌 규정 관리 부사장 모니카 비커트는 "이같은 동영상은 여전히 인터넷상에 드물지만, 이들의 사용이 점차 늘면서 산업계와 사회에 중대한 도전이 되고 있다"고 말했다.

비커트는 이번 주 미 하원이 개최하는 '디지털 시대의 조작과 기만'을 주제로 한 청문회에 증인으로 출석할 예정이다.

WP는 "2020년 대선을 앞두고 새로운 형태의 가짜 뉴스가 확산하는 것을 차단하려는 조치"라고 풀이했다.

페이스북은 보통의 이용자들이 쉽게 알아채지 못하도록 AI 같은 기술을 이용해 편집하거나 합성한 동영상을 금지할 계획이다. 동영상의 주인공이 하지 않은 말을 한 것처럼 보이게 한 동영상 등이 여기에 해당한다.

또한 페이스북은 AI 같은 기술로 동영상에 다른 콘텐츠를 합성·교체·첨가해 사람들을 오해하게 만드는 콘텐츠도 삭제할 계획이다.

다만 페이스북의 조치는 모든 조작된 동영상을 금지하는 것은 아니다.

풍자나 패러디(소설·영화 등 기존의 예술 작품을 희극적으로 비튼 것)를 위해 조작된 동영상은 금지 대상이 아니다. 김위수기자 withsuu@dt.co.kr