이노션은 인공지능(AI) 데이터 편향성 문제를 해결하기 위해 미국에서 특별한 프로젝트를 실시하고 있다고 8일 밝혔다.
이노션 미국법인은 최근 글로벌 스톡 이미지 제공 기업 '피오씨 스톡(POC Stock)'과 손잡고, 다양한 인종과 문화를 대표하는 고품질 이미지 콘텐츠를 AI 학습 데이터에 반영하는 'Refacing the Future'(미래를 직시하기) 프로젝트를 진행했다.
이번 프로젝트는 AI가 인간의 편견을 단순 반영하는 수준을 넘어 이를 증폭시키고 있다는 문제의식에서 출발했다. 예를 들어 미국 치과의사의 약 22%가 아시아계임에도 불구하고 AI가 생성하는 치과의사 이미지는 아시아계 비율이 2.3%에 불과한 것으로 나타났다.
이노션은 이러한 편향 문제를 바로잡기 위해 다양한 인종, 연령, 성별, 성적 지향을 대표하는 인물들을 촬영하고 AI 학습용으로 최적화된 콘텐츠를 대규모로 제작했다. 촬영 주제는 흑인 서퍼, 히스패닉 스케이트보더, 히스패닉 뮤지션, 흑인 최고경영자(CEO) 등 다양성과 포용성을 반영했다.
이노션 미국법인의 최고 크리에이티브 책임자(CCO)인 제이슨 스펄링은 "AI 트레이닝은 보다 큰 산업적 차원으로 확장해야 진정한 변화를 이룰 수 있다고 판단했다"며 "수십 개 파트너사가 각기 하나의 편향 주제를 맡아 함께 힘을 모은다면, 의미 있는 변화를 만들어낼 수 있다"고 강조했다.
이번 프로젝트에는 이노션 미국법인의 주도로 16명의 전문 사진작가와 22개 글로벌 에이전시·프로덕션 파트너사가 참여했다. 이들은 구글, 어도비, 셔터스톡, 마이크로소프트, 캔바, 아마존, 오픈AI 등 주요 글로벌 플랫폼에 AI 트레이닝 목적으로 제공될 10만여건 이상의 콘텐츠를 새롭게 제작했다.
이노션은 단순 이미지 제작에 그치지 않고, 포용적 AI 개발을 위한 가이드북도 발간할 계획이다. 이를 통해 크리에이터, 기업, 기술 개발자들이 보다 인문학적 관점을 반영해 AI를 한 단계 발전시킬 수 있도록 한다는 방침이다.이용우 이노션 대표는 "이번 프로젝트는 AI가 인간 다양성을 보다 정확히 반영할 수 있도록 하는 '포용적 AI의 표준'을 제시했다는 점에서 의미가 크다"며 "다양한 산업 파트너들과 함께 AI 편향성 문제를 해결하기 위한 글로벌 노력을 지속해 나갈 계획"이라고 말했다.
장우진기자 jwj17@dt.co.kr
'Refacing the Future'(미래를 직시하기) 캠페인 메인 이미지. 이노션 제공
