"AI 사회적 책임 점검기회" vs "규제로 혁신 가둬선 안돼"

  • 프린트
  • 페이스북
  • 트위터
  • 카카오스토리


"AI를 공공에 서비스 할 때 사회적 책임에 대해 다시 점검하는 기회가 됐으면 한다."(이재웅 전 쏘카 대표)

"이제 시작일 뿐인 이 산업, 엉뚱한 규제로 혁신을 또 가둬두지 않을지 걱정스럽다."(남궁훈 카카오게임즈 대표)

성희롱, 소수자 증오, 개발자 윤리의식 부재 등의 숱한 논란을 낳은 AI(인공지능) 챗봇서비스 '이루다'와 관련해 IT업계 전반에서 다양한 요구들이 표출되고 있다. 특히 'AI 윤리를 다시 생각해봐야 한다'는 의견에서 부터 '결국 AI에 입력되는 데이터가 사회의 모습을 반영한 것인 만큼, 인간부터 반성해야 한다'는 의견에 이르기까지 여러 의견들이 제시되고 있다.

이루다 사태를 계기로 AI도 일정 수준의 윤리기준을 반영해야 한다는 의견이 다수를 차지했다. 이재웅 전 쏘카 대표는 지난 12일 페이스북을 통해 "이루다의 더 큰 문제는 그걸 악용해서 사용하는 사용자의 문제라기 보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제"라고 꼬집었다. 이어 이 전 대표는 "(이번 기회를 통해) AI를 공공에 서비스할 때의 사회적 책임, 윤리에 대해서 다시 생각해보고 여러 가지를 재점검하는 기회가 됐으면 한다"며 "이러한 문제가 회사의 지배구조의 다양성 부족이나 회사 구성원의 젠더·인권감수성의 부족에서 온 것은 아닌지 한 번 더 점검하고 보완했으면 좋겠다"고 촉구했다.

이어 그는 면접과 뉴스추천 등 다양한 분야에 활용되고 있는 AI가 인간에게 차별과 혐오를 조장할 수 있다는 가능성을 제기하며, 이러한 문제를 차단하기 위해 법적인 뒷받침이 따라야 한다고도 주장했다. 그는 "이루다를 계기로 AI 챗봇, 면접·채용, 뉴스 추천 등이 인간에 대한 차별, 혐오를 조장하고 있는 것은 아닌지 사회적으로 점검해야 한다"며 "포괄적 차별금지법 제정 등을 통해 AI를 학습시키는 우리 인간들의 규범과 윤리도 보완했으면 좋겠다"고 강조했다. 그러면서 "인간의 다른 인간에 대한, AI의 인간에 대한 혐오와 차별은 모두 용납할 수 없다"고 말했다.

반면 이루다 논란이 AI 신산업의 또 다른 규제를 낳을 수 있다는 주장도 제기됐다. 남궁훈 카카오게임즈 대표는 지난 11일 페이스북을 통해 이루다를 혁신서비스로 평가하며 "엉뚱한 규제로 혁신을 또 가둬서는 안된다"고 반박했다. 그는 이번 이루다 논란의 반성 주체는 AI가 아닌 현 사회라고 지적했다.

남궁 대표는 "이루다는 교육을 목적으로 만들어낸 인공지능 슈퍼컴이 아니다. 앞으로 수없이 출시될 여러 AI 캐릭터 중 하나일 뿐"이라며 "이 캐릭터(이루다)가 현세대와 동떨어진 이야기를 하면 모르겠지만 사실은 현세대에 분명히 현존하는 혐오와 차별이 노출되었을 뿐"이라고 진단했다. 그러면서 "오히려 문제라면 이 AI가 현세대를 통해 학습되었기 때문에, '현세대가 가지고 있는 혐오와 차별이 문제'라며 "반성을 해야한다면 AI가 반성 해야하는 것이 아니라 현 사회가 반성을 해야한다"고 주장했다.

아울러 남궁 대표는 "AI 캐릭터 중에 선생님, 상담사와 같은 캐릭터가 이루다와 같은 대답을 하면 안 될 일이지만, 이루다는 그냥 10~20대들의 대화를 통해 학습된 하나의 캐릭터일 뿐"이라며 "모처럼 일어난 AI에 대한 사회의 관심을 긍정적인 방향으로 이끌어 내야 한다"고 촉구했다.황병서기자 BShwang@

"AI 사회적 책임 점검기회" vs "규제로 혁신 가둬선 안돼"
홈페이지 캡처.

"AI 사회적 책임 점검기회" vs "규제로 혁신 가둬선 안돼"
남궁훈 카카오게임즈 대표.

"AI 사회적 책임 점검기회" vs "규제로 혁신 가둬선 안돼"
홈페이지 캡처.

"AI 사회적 책임 점검기회" vs "규제로 혁신 가둬선 안돼"
이재웅 전 쏘카 대표.





[저작권자 ⓒ디지털타임스 무단 전재-재배포 금지]