디지털타임스

 


"작년부터 AI로 생성한 가짜 이미지 급증"

프린트 페이스북 트위터 카카오스토리
작년 3월 교황 가짜 이미지 확산 시점부터 퀄리티 높아져
"작년부터 AI로 생성한 가짜 이미지 급증"
AI가 제작한 교항이 롱패딩을 입고 있는 가짜 이미지. 연합뉴스 제공

작년 초부터 인공지능(AI)이 생성한 이미지를 이용한 허위 정보가 급증했다는 연구 결과가 나왔다.

구글과 듀크대 연구진은 팩트체크 사이트, 미디어 단체와 공동 집필한 논문을 통해 AI가 만든 가짜 이미지가 2023년 초부터 크게 늘어났다고 밝혔다고 미 NBC 방송 등이 29일(현지시간) 보도했다.

보도에 따르면 연구진은 팩트체크 매체 스노프스가 진위를 확인했던 1995년 이후 2023년 11월까지 13만6000건의 팩트체크 사례를 분석했다.

논문에 따르면 작년 3월 프란치스코 교황이 허리춤이 강조된 흰색 롱패딩을 입은 가짜 사진이 소셜미디어(SNS)에 확산되기 전까지만 해도 가짜 이미지는 거의 없었으나 이후 허위 AI 사진은 포토샵으로 만든 것과 유사한 수준으로 퀄리티가 올랐다. 연구진은 "허위 정보 가운데 AI가 생성한 콘텐츠가 크게 증가한 것은 빠르게 변화하는 환경을 보여준다"고 분석했다.

알렉시오스 만찰리스 국제팩트체킹네트워크 전 국장은 "생성형 AI 도구로 거의 누구나 온라인에서 허위 정보를 쉽게 퍼뜨릴 수 있게 됐다"고 말했다고 전해진다.

2022년 11월 챗GPT 등장 이후 AI 열풍이 불면서 작년에는 오픈AI, 구글 등이 신규 AI 이미지 생성 도구를 출시한 바 있다.

지난 1월에는 미국 유명 가수 테일러 스위프트 얼굴에 성적으로 노골적인 자세가 합성된 딥페이크 이미지가 SNS에서 확산됐고 작년 3월에는 도널드 트럼프 전 대통령이 수감을 찬 채 경찰관들에게 둘러싸여 끌려가는 사진도 퍼졌다. 최근 몇 달 동안에는 전통적인 텍스트와 이미지 조작도 다시 늘어나고 있는 것으로 조사됐다.

머신러닝 플랫폼 허깅페이스의 대표적인 AI 윤리 연구원인 사샤 루치오니는 "AI가 만들어낸 허위 정보가 줄어든 것은 아니다"라며 "AI를 이용한 가짜 정보가 너무 많아 추적하기 쉽지 않기 때문"이라고 설명했다.김영욱기자 wook95@dt.co.kr


[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]