"AI 개발과 제품화 과정에서 개발사뿐 아니라 데이터를 포함한 이해관계자들이 수익을 얻는 구조를 마련할 필요가 있다."
김성훈 업스테이지 대표는 개인정보보호위원회가 23일 UN AI 고위급 자문기구(UN AIAB)와 함께 개최한 'AI와 데이터 거버넌스 국제 콘퍼런스'에서 "대규모언어모델(LLM) 개발 과정에서 양질의 데이터를 확보하는 것이 가장 중요한데 비용이 너무 높은 데다 공급 자체가 없어 구하기가 어렵다"며 이같이 말했다.
이날 행사에는 '글로벌 AI 맥락의 데이터 거버넌스'를 주제로 네이버, 업스테이지 등 국내를 대표하는 AI 기업과 구글, 메타, 오픈AI 등 글로벌 기업의 AI 전문 임원들이 직접 참석해 AI 개발과 활용에서 데이터의 중요성과 데이터 거버넌스 마련을 위한 실천 과제 등에 대해 머리를 맞댔다.
이들은 최근 AI에 대한 관심도가 크게 높아지고 있는 상황에서 AI 학습을 위한 데이터 세트 확보의 어려움에 대해 토로했다. 하정우 네이버클라우드 AI센터장은 "AI 사전학습을 위한 데이터 수집과 정리에 어려움을 겪고 있고, 개인 데이터는 개인정보보호법 관련해서도 제약이 있다"며 "데이터를 중요한 자산으로 보고 있고 이를 운영하고 구축하고 있는 플랫폼 회사들에 대한 노력도 인정해야 한다"고 언급했다.
AI와 관련해 현실적인 규제의 필요성에 대해서도 다양한 의견이 나왔다. 유니스 훵 구글 아태지역 AI 및 신흥기술 부서장은 "아시아 전반에서 AI에 대한 규제는 할루시네이션(허위 정보) 등 AI가 미칠 수 있는 위해 영역을 중심으로 마련되고 있다"며 "다만 이런 규제가 AI 애플리케이션, 서비스 중심이 아닌 파운데이션 모델 자체에 대한 규제로 향하게 되면 기술에 대한 제약이 될 수 있다"고 주장했다. 그는 "예를 들어 AI를 학습시킬 때 혐오와 관련된 발언을 전부 제거하면 AI가 혐오발언을 전혀 모르기 때문에 필터링조차 불가능한 상황이 생긴다"며 "사용자에게 직접적으로 닿을 수 있는 아웃풋의 퀄리티를 높이는 것이 정보보호의 측면에서도 더 중요하다"고 설명했다.
애슐리 판툴리아노 오픈AI 법률고문 역시 "안전하지 않은 데이터를 모두 전처리 단계에서 배제할 수는 없을 것"이라며 "앱에서의 필터링도 중요하다고 생각한다"고 말했다.
이들은 데이터 거버넌스 마련을 위해 국제적인 공조와 협력이 필요하다는 데 의견을 모았다. 멜린다 클레이보 메타 프라이버시 정책 디렉터는 "AI 기술이 매우 빠르게 발전하면서 정책과 규제가 이를 현실적으로 따라가지 못하고 있는 현상이 발생하고 있다는 것을 정책 입안자들에게 이해시키는 점도 중요하다"며 "기존의 법과 제도를 AI 산업에 적용하는 것과 관련해 다양한 이니셔티브와 의견 교환이 필요하다"고 말했다. 하 센터장은 데이터와 AI 거버넌스에 있어 각 국가와 지역의 '주권'을 존중하는 것이 중요하다고 강조하며 "안전한 거버넌스 체계를 위해 특정 기업만의 결정이 아닌 정부와 글로벌 커뮤니티를 포함한 다양한 이해관계자들과의 합의가 중요하다"고 강조했다.전혜인기자 hye@dt.co.kr
고학수(사진 왼쪽에서 7번째)개인정보위 위원장이 23일 서울 더 플라자 호텔에서 개최한 인공지능(AI)과 데이터 글로벌 거버넌스 국제 컨퍼런스에 참석한 이들이 기념촬영 중이다.개인정보위 제공
