AI 공정성 논란
전창배 한국인공지능윤리협회 이사장
"AI의 편향성에 대한 판단기구는 비영리 단체가 중심이 되어야 합니다. 정부가 검증하면, 기업 입장에서 규제이고 기업이 자체 검증은 소비자들이 100% 신뢰할 수 없기 때문입니다."
전창배(사진) 한국인공지능윤리협회 이사장은 최근 국정감사에서 이슈로 떠오른 AI 알고리즘의 공정성 시비 논란과 관련해 지난 20일 디지털타임스와의 인터뷰에서 이 같이 밝혔다. 이어 그는 "2015년 구글 포토 서비스에서 흑인 여성을 고릴라로 인식한 결과나 2018년 글로벌 온라인 쇼핑몰 기업 아마존이 AI채용 시스템을 도입하려다 폐기한 사례가 있었다"면서 "AI를 만드는 것은 사람일 뿐만 아니라, AI가 현재 존재하는 데이터를 기반으로 학습된다는 점에서 편향되고 신뢰할 수 없는 불법적인 자료들이 포함된 데이터들을 그래도 수집해 활용한다는 문제가 있다"고 밝혔다.
전 이사장이 소속된 한국인공지능윤리협회는 UN(국제연합)의 '글로벌 디지털 협력을 위한 로드맵 보고서' 작성에 한국 대표로 참여하고 있으며, AI(인공지능) 강국인 캐나다의 국책연구기관인 캐나다아시아태평양재단과 공동 사업을 진행하고 있는 단체이다.전 이사장은 우리나라가 AI윤리 가이드라인과 관련한 기준 설립에 굉장히 미흡한 상황이라고 지적했다. 전 이사장은 "2018년 카카오가 발표한 알고리즘 윤리헌장, 2018년 카이스트 인공지능연구소의 AI윤리 헌장, 그리고 저희 단체가 지난해 내놓은 '인공지능 윤리 헌장'이 유일하다"면서 "AI 컨트롤타워인 과학기술정보통신부에서 AI윤리 헌장 제정 작업을 하고 있는 것으로 알고 있다"고 말했다. 전 이사장은 정부, 기업, 학계, 연구계, 시민 등 모든 관련 주체들이 참여하는 비영리 단체 중심의 AI 공정성 판단 기구가 필요하다고 강조했다. 그는 "(정부가 중심이 되어) AI 알고리즘 규제를 검증한다면, 기업들이 AI 기술을 개발하고 발전시키는데 굉장히 큰 부담과 제약이 된다"면서 "특히 미국, 중국, 캐나다 등 AI 선진국들보다 기술력이 뒤떨어진 우리나라 입장에서 국가의 규제는 최소화해야 한다"고 말했다. 이어 "그렇다고 기업들이 스스로 검증한 AI 제품이나 서비스들은 소비자들이 100% 신뢰할 수 없는 문제도 있다"며 "이 역할은 어느 쪽에도 치우치지 않은 중립적인 비영리 기구가 맡는 것이 맞다. 비영리 단체의 성격과 관련해서 전 이사장은 "이 기구는 AI의 편향성 검증 뿐만 아니라 출시되는 모든 인공지능 제품과 서비스에 대한 AI윤리와 안전에 관한 전체적인 검증과 인증을 담당하는 기구가 되어야 한다"며 "기업들 입장에서도 이러한 중립적 기구에서 AI 알고리즘에 대한 윤리적 판단을 받음으로써 이런 사실을 소비자들에게 알려 오히려 소비자들에게 보다 신뢰를 얻는 AI 제품과 서비스를 제공할 수 있게 되는 것"이라고 말했다. 아울러 비영리 단체에 교육계의 중요성을 강조했다. 전 이사장은 "AI 윤리 문제의 해결에는 교육이 가장 중요하다"면서 "우리 초중고 학생들이 미래의 AI개발자와 과학자가 될 것이기 때문에 학생들에게 미리 AI윤리가 왜 중요한지를 알려주는 등의 내용이 반드시 반영되어야 하기 때문이다"고 밝혔다.
황병서기자 BShwang@
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
