공정·윤리성 담보 제도마련 지적
AI 발전 규제·지원 마련 급물살
美, 안면인식 기술 제한法 발의
EU, AI알고리즘 사전 정밀규제
영국, 데이터윤리혁신센터 설치
AI 발전 규제·지원 마련 급물살
美, 안면인식 기술 제한法 발의
EU, AI알고리즘 사전 정밀규제
영국, 데이터윤리혁신센터 설치
유튜브가 입맛에 맞는 영상을 골라주고 네이버·카카오는 관심 있는 뉴스를 척척 보여준다. 검색창에 특정 키워드를 입력하면 수많은 자료들이 눈앞에 순식간에 나타난다. 그 뿐일까. 내 취향에 맞는 낚시, 먹방, 음악 심지어 금융상품까지 한 눈에 띄워준다. 인공지능(AI)은 과거 데이터를 기반으로 판단을 내린다. 이 모든 게 정교한 알고리즘 덕분이다.
AI 공정성 논란
<하> AI 법·제도 정비 서둘러야
AI 기술 개발이 가속화되면서 알고리즘의 중요성은 더욱 커지고 있다. 하지만 알고리즘은 누군가의 기초 데이터 설계 과정에서 데이터가 조작되거나 편향될 우려가 존재할 수 밖에 없다. 최근 국내에서 정치권의 포털 통제 의혹이 불거지면서 콘텐츠 노출과 배열을 결정하는 알고리즘에 대한 사회적 감시장치가 요구되고 있는 이유다.
AI 기술은 고도화되어 가고 있지만 아직 기술에 대한 윤리와 책임의식을 뒷받침할 법적 제도적 장치는 현실을 따라잡지 못하고 있다. 엄청난 AI기술 발전의 이면에 그늘 또한 깊다. 전세계적으로 AI의 공정성과 윤리성을 담보할 제도마련에 대한 목소리가 어느때보다 높아졌다. AI기술이 더 이상 단순한 이론적 연구가 아니라 많은 사람들의 일상생활에 영향을 미치는 방식으로 활용되고 있어 사회적 합의를 통한 법제도 정비가 시급한 상황이다.
이런 가운데 글로벌 AI기업들은 물론 국가차원에서 AI발전을 위한 규제와 지원을 마련하는 작업이 본격화 되고 있다. 특히 AI의 윤리적 문제를 해결할 목표로 다양한 가이드라인 지침을 수립하고 관련 기술적 연구 진행에 초점을 두고 있다.
◇글로벌 AI기업들 선제적 규제 움직임=다양한 AI 서비스를 개발·제공하고 있는 구글의 최고 경영자 (CEO) 선다 피 차이도 규제 필요성을 언급한 바 있다. 그는 딥 페이크와 안면 인식 기술의 오용 위험성을 경고하면서 "인터넷은 전 세계의 모든 사람들을 서로 연결하지만, 잘못된 정보가 퍼지는 것을 더 쉽게 만든 조직이 있다"며 규제법안의 필요성을 주장했다.
안면 인식 기술은 특히 중국 정부가 감시 체제를 확고하게 하기 위해 적극적으로 개발 · 보급하고있는 AI 서비스 중 하나다. 현재 미국과 유럽 연합(EU), 호주 등이 안면 인식 기술 규제를 고려하고 있다. EU는 얼굴 인식을 공공 부문에 5 년은 선호하고있는 '소프트 규제'를 선호하고 있다.
피차이는 이런 AI 기술의 '위험 가능성'과 '사회적 기회'의 균형을 맞출 필요가 있다고 지적하며 "구글은 (AI 기술에 대한) 안전성 여부를 엄격하게 시험하고, 사용자의 프라이버시를 최우선시하며, 기술에 대한 책임을 지도록 하고 있지만, 이것만으로는 부족하다"며 정부의 규제 필요성을 강조했다.
예상치 못한 AI알고리즘 오류가 속속 발견되자 글로벌IT기업은 AI윤리규범을 수립하고 있다. 먼저 MS가 포문을 열었다. MS는 2017년 'AI 윤리 디자인 가이드'를 선보였다. AI는 효율성을 극대화하되 투명성을 갖추고 신뢰성을 확보해야 한다는 내용이 골자다. MS의 자회사인 링크드인은 AI의 편향성을 해결하는 도구 ( LiFT)를 글로벌 오픈소스 공유 사이트 '깃허브'에 공개해 주목을 받았다. 구글도 지난해 6월 미국 국방부와 무인항공기 프로젝트 계약을 맺으면서 '7대 AI윤리지침'을 내놨다. AI기술을 무기 개발이나 감시 도구로 사용해 인권을 침해하거나 인종과 성적, 정치적 차별을 하지 않겠다는 내용이 핵심이다. 구글은 그동안의 노하우를 축적, 연내 AI윤리컨설팅 서비스도 제공하는 것으로 알려졌다. 구글은 이를 활용해 금융업체 HSBC의 대출 AI알고리즘의 특정 집단 편향성을 검증하기도 했다. 이외에도 구글, 페이스북, 아마존, IBM, 애들 등 5개사는 공동 출자 방식으로 '파트너십 온 AI'를 만들어 AI 윤리문제 해결에 적극 앞장서고 있다.
◇본격화되는 AI 법제도 정비=국가적 차원에서도 AI기술과 관련해 법제도 정비에 대한 논의가 활발해지고 있다. 게다가 코로나19 팬데믹 사태를 계기로 비대면의 일상화, 디지털 전환의 전면화가 예상되는 상황에서 미국.중국.일본, 유럽 등은 AI에 의한 발명.법제 정비를 추진하는 동시에 AI 핵심기술에 대한 지식재산 권리화를 지원하고 있다.
미국 연방거래위원회(FTC)는 올해 4월 소비자 보호와 권리 보장을 위해 'AI와 알고리즘 이용에 대한 지침'을 발표했다. 이 지침은 △투명성 제고 △의사결정 설명 △결과의 공정성 △데이터와 모델의 타당성 보장 △책임 등 5가지 내용으로 구성하고 있다.
미국 정부는 또 안면인식 기술 이용을 일부 제한하는 내용의 '상용 안면인식 프라이버시 법안'이나 안면인식 및 타깃 광고 등에 머신러닝 기반 시스템을 활용할 경우, 편견 방지를 위한 감사 의무를 규정한 '알고리즘 책임 법안'을 발의한 상태다. 뉴욕시는 지난해 '알고리즘 설명책임 법안' 시행으로 학계, 법조계, 전문가 등으로 구성된 TF를 발족시켰다. 앞서 미 백악관은 2016년 '인공지능의 미래를 위한 준비'라는 제목의 보고서에서 '정의, 공정성 및 책임' 단락에서 관련 문제를 심층적으로 다룬 바 있다.
EU는 2018년 5월 'EU 일반 개인정보보호법(GDPR)'을 발효시켰다. 보다 적극적인 이용자 권리 보호와 피해구제를 위해 AI 알고리즘을 사전적으로 정밀하게 규제하기 시작한 것이다. 일례로 GDPR은 제22조 제1항에서 '오로지 AI의 자동화된 판단에만 의존해 중대한 법적 효과를 창출하는 판단을 받지 않을 권리'를 규정했다. 알고리즘을 기반으로 한 자동화된 의사결정에 대해서는 정보 주체가 이의를 제기할 권기를 보장했다. 이용자에게 프로파일링 기반의 알고리즘 결정에 관해 설명을 요구할 기회를 부여함과 동시에 알고리듬 설계 과정에서 인간의 개입 필요성을 강조했다. EU는 또 지난해 4월엔 '신뢰할 수 있는 AI 가이드라인'을 발표했다. 이 가이드라인은 신뢰 가능한 AI 확립.구현.적용 3가지 내용으로 나눠 윤리적 문제 해결과 신뢰 가능한 AI시스템 마련을 목표로 하고 있다.
유럽지역에서 AI산업이 가장 활발한 국가는 영국이다. 프랑스 경제정보 웹사이트 'JDN(Journal du Net)'에 따르면 영국내 AI 분야 관련기업이 2019년 12월 529개로 집계되면서 유럽지역 전체 AI 기업 수의 27%를 차지했다.
'유럽의 AI 수도'로 불리는 영국은 그 명성답게 세계 최초로 데이터윤리혁신센터를 설치했다. 세계 최고 수준의 연구를 수행하는 앨런 튜링 연구소에서는 지난해 '인공지능 윤리와 안전의 이해' 지침서를 발간했다. 이 지침서에서 AI시스템이 사회에서 윤리적인 책임감을 갖고 개발되기 위한 원칙과 프레임워크를 제시했다. 원론적인 수준을 넘어 상세하게 윤리적 수용 가능한 범위와 방법을 제공하고 있다는 평가를 받고 있다. 영국에서는 데이터윤리 및 혁신센터, 인공지능청, AI위원회 등이 인공지능 관련 정책을 수립하고 윤리문제를 다루고 있다.
김광태기자 ktkim@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
