영상 자동합성 기술 '딥페이크'
유명인 가짜 포르노 제작 악용
중·러는 사이버 공격에 AI 활용
유명인 가짜 포르노 제작 악용
중·러는 사이버 공격에 AI 활용
AI(인공지능) 기술이 자동차, 의료, 금융 등 각 산업분야에 광범위하게 응용되면서 부정적 사례들도 속출하고 있다. 미국, 유럽, 일본 등 세계 주요 국가에서 AI 산업 활성화와 함께 부작용을 최소화할 수 있는 윤리기준 제정에 나선것도 이 때문이다.
우선, 최근에는 AI를 통해 연예인 등 유명인 얼굴을 영상에 자동으로 합성하는 '딥페이크' 문제가 갈수록 확산되고 있다. 딥페이크 기술이 컴퓨터그래픽(CG) 제작 절감 비용 등 건설적인 방향뿐 아니라 불법적인 콘텐츠 생산에 활용되고 있는 것이다. 올해 초 스칼렛 요한슨, 엠마 왓슨 등 해외 유명배우 뿐만 아니라 설현 등 국내 유명 연예인들의 얼굴을 포르노 영상 및 사진에 합성한 불법 콘텐츠들이 무작위적으로 유포된 바 있다.
딥페이크는 합성하려는 인물의 얼굴이 주로 나오는 고화질의 동영상을 통해 딥러닝, 대상이 되는 동영상을 프레임 단위로 합성시키는 원리다. 엄연한 초상권 침해인 만큼 유포자 추적과 고소 등으로 법적 조치가 이뤄지기도 하지만, 딥페이크 콘텐츠가 전 세계적으로 동시 다발적으로 생산되며 퍼지기 때문에 현실적으로 이를 모두 막을 방도는 없다.
고성능 그래픽카드가 장착된 컴퓨터와 타겟의 사진이나 영상만 있으면 구글의 오픈소스 AI 개발 도구인 텐서플로우 등을 활용해 누구나 손쉽게 딥페이크 콘텐츠를 생산할 수 있다. 실제 해외 몇몇 사이트에서는 여전히 국내외 유명 연예인의 딥페이크 영상들이 유포되고 있는 상황이다. 포르노 영상뿐 아니라 버락 오바마 전 미국 대통령을 합성한 영상 등 가짜뉴스 제작에도 활용된다.
AI는 사이버 해킹 공격에도 활용되고 있다. 최근에는 중국과 러시아가 사이버 공격에 AI를 활용하고, 이 기술을 북한에 학습 하도록 지원한 사실이 전해지기도 했다.
윤리 의식이 떨어지는 AI가 스스로 반인륜적인 문화를 확산시킬 가능성도 제기되고 있다. 지난 2016년 마이크로소프트(MS)가 내놓은 AI 챗봇 '테이'가 백인 우월주의, 나치숭배 등의 발언을 해 MS가 해당 서비스를 즉시 중단시킨 바 있다. 2015년에는 '구글 사진' 서비스의 얼굴 자동인식 기능의 오류로 흑인이 '고릴라'로 표시되는 일이 벌어져 회사측이 사과하고 긴급 패치를 내놓기도 했다.
만약 사람의 개입이 불가능할 정도로 AI 기술이 고도화 된다면, 어떤 결과를 초래할지 장담할 수 없다는 것이다. 테슬라와 스페이스X를 이끄는 엘론 머스크는 "AI의 발달은 영화 '터미네이터'와 같은 끔찍한 일을 현실에서 일어나게 만들 수도 있고, 악마를 소환하는 것이나 다름 없는 현존하는 가장 큰 위협 요소"라고 지속적으로 경고하고 있다.
닉 보스트롬 트랜스휴먼협회장(옥스퍼드대 교수)은 "윤리와 도덕 같은 인간이 소중하게 여기는 가치들을 정교하게 정의해서 기계에 가르치는 방법을 지금부터 준비해야 한다"고 조언했다.
이경탁기자 kt87@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
