스마일게이트 AI센터, 악플·혐오 발언 자동 감지

  • 프린트
  • 페이스북
  • 트위터
  • 카카오스토리


스마일게이트 AI센터, 악플·혐오 발언 자동 감지
스마일게이트 AI센터가 악플·혐오 발언 데이터셋을 공개한다고 20일 밝혔다.

스마일게이트 AI 센터는 최근 혐오 표현이 온라인 공간에서 광범위하게 증가하고 있고 사회적 문제로 이어질 수 있다는 점을 고려해 혐오 표현을 선제적으로 감지하고 대응할 수 있도록 악플·혐오 발언 데이터셋을 구축했다. 이번 프로젝트는 지식 콘텐츠 스타트업 언더스코어와 협업으로 이뤄졌다.

악플·혐오 발언 데이터는 2019년 1월 1일부터 지난해 7월 1일까지 기간 동안 포털 사이트, 커뮤니티 등 다양한 웹사이트 게시글을 대상으로 수집했다. 수집 과정에서 시의성과 편향성의 특성을 감안했으며 약 55만여개의 데이터를 기반으로 1만개의 데이터셋을 구축했다.

데이터셋 구축 과정에서 '여성·가족', '성소수자', '남성', '인종·국적', '연령' '지역', '종교', '기타혐오' 등을 범주화했다. 또 혐오 발언 분류를 위한 기준 모델을 공개했다. 이를 통해 혐오 발언을 추출하는 것이 가능하다.

스마일게이트 AI 센터는 악플·혐오 발언 데이터셋이 향후 다양한 영역에서 활용될 수 있을 것으로 관측했다. 게임 커뮤니티 내 댓글, 고객 응대 상담 챗봇, 여론 조사 등 여러 분야에서 대상을 둘러싼 혐오 발언 여부를 파악할 수 있다는 설명이다.센터는 향후 지속적인 R&D(연구개발)로 혐오 표현을 보다 정확하게 찾아낼 수 있도록 기술을 고도화할 계획이다. 이번에 수집한 데이터는 이달 중 스마일게이트 AI 센터 깃허브 페이지에서 공개한다.

한우진 스마일게이트 AI 센터장은 "AI 센터는 자연어 처리·분류 관련 연구 목적 외에도 윤리성이 결여된 AI가 사회에 미치는 문제에 대해서 연구하고 있는 기관으로서 책임과 문제의식을 갖고 있다"며 "이번에 공개한 데이터가 좀 더 안전하게 AI를 활용하는 데 밑거름이 되길 바란다"고 말했다. 이어 "향후 스마일게이트 AI 센터는 그 동안 진행해온 연구 결과와 노력들이 기술적인 관점에서 뿐만 아니라 사회에 긍정적인 기여를 할 수 있도록 다양한 노력을 시도할 것"이라고 덧붙였다.윤선영기자 sunnyday72@




[저작권자 ⓒ디지털타임스 무단 전재-재배포 금지]


가장 많이 본 기사