[시론] 알고리즘 합리적 규제모델 시급하다

신동희 중앙대 미디어커뮤니케이션학부 교수

  •  
  • 입력: 2018-02-22 18:00
  • 프린트
  • 페이스북
  • 트위터
  • 카카오스토리
[시론] 알고리즘 합리적 규제모델 시급하다
신동희 중앙대 미디어커뮤니케이션학부 교수
4차산업혁명의 물결 속에 거의 모든 산업과 서비스에 알고리즘이 광범위하게 적용되고 있다. 사람이 인지하든 못하든 알고리즘은 인간의 일상에 깊이 관여하고 통제하고 있다. 온라인에서의 검색어 자동완성기능, 인터넷을 하다가 나오는 팝업 광고, 온라인 쇼핑에서 추천되는 상품, 콘텐츠 등은 사용자의 데이터에 기반한 알고리즘에 의한 결과이다. 알고리즘이 비단 온라인 영역에서만 국한되는 것이 아니라 오프라인의 의사결정에서도 큰 역할을 수행하고 있다. 미국 법원은 재소자의 가석방 심의에서 알고리즘으로 재범 확률을 계산하고 있다. 은행이나 신용평가기관에서는 대출 심사나 신용점수를 인공지능에 의한 알고리즘이 계산하고 있다. 아담 스미스가 말한 가격을 결정하는 시장의 보이지 않는 손이 4차산업혁명시대에는 알고리즘이 보이지 않는 손(Invisible Hand)의 역할을 하고 있다.

올해부터 유럽연합은 이 보이지 않는 손 알고리즘에 대한 규제를 담은 개인정보보호법(EU GDPR, General Data Protection Regulation)의 시행을 앞두고 있다. 4차산업혁명의 시대에 비중이 커지는 알고리즘에 대해 일률적인 데이터 수집을 거부할 수 있고 자동화된 개인결정에 대해 이의를 제기할 수 있으며 알고리즘에 대해 설명을 요구할 수 있는 권리 등을 명시하고 있다. 미국정부도 데이터 윤리 프레임워크(Data Ethic Framework)를 내놓고 향후 강력한 알고리즘 윤리 정책을 준비하고 있다. 영국도 데이터사이언스윤리체계(Data Science Ethic Framework)를 통해 데이터와 알고리즘에 관한 윤리적 문제를 다루고 있다.

이들 선진국에서는 알고리즘에 대해 법제가 나올 정도로 그간 많은 논의가 있어왔고 사회적 합의를 통해 법제와 규제를 도출하고 있다. 인공지능과 알고리즘이 편리하고 기업의 이익을 극대화하지만, 보이지 않는 손이 때로는 차별적이고 불공평하며 비윤리적인 결과를 낼 수 있다는 우려에 근거한다. 인공지능이 은행의 대출 심사를 할 경우 거주지, 인간관계, 소비 패턴 등의 관련 데이터를 분석한 인공지능이 알게 모르게 차별적이거나 불공정한 판단을 내릴 수 있다.

국내에서는 아직 알고리즘 규제에 대한 사회적 합의는 미미하며 관련 규제내용이나 법령이 전무한 실정이다. 기술을 먼저 개발하고 보자는 기술개발 위주의 담론에서 인공지능, 알고리즘 등을 이용한 새로운 기술 개발과 새 시장 개발이 먼저이지 그에 관한 사회적 이슈나 윤리적 문제는 부차적 문제로 치부되어 왔다. 그러나 점차 알고리즘으로 인한 사회적 폐해나 법적 문제가 급증하며 관련 논의가 필수적으로 부상할 것이다.

전체적으로 큰 총론적 시각에서 알고리즘에 대한 규제가 필요한 데에는 대부분 동의하면서도 각론적인 측면에서 어떻게 구체적으로 규제해야 하는 지 현실적 방법론에서 어려운 점이 있다. 알고리즘이라는 보이지 않는 손을 어디까지 공개를 하느냐, 어떻게 공개를 하느냐하는 것은 법리적 문제를 넘어 복잡한 기술적 문제를 내포하고 있다. 인공지능의 블랙박스를 통해 생성되는 보이지 않는 손을 어떻게 규제 할 수 있는지 반문하기도 한다. 머신러닝을 통해 스스로 학습하며 발전해나가는 알고리즘을 규제하려면 기술적 알고리즘을 뛰어넘는 또 다른 알고리즘이 있어야 한다. 블랙박스내에서 작용하는 보이지 않는 손을 완전히 투명하게 작동하는지 보는 것이 가능한 것인가 하는 기술적 문제에 봉착한다.

결국 규제와 기술발전간의 해묵은 논쟁이 알고리즘 규제에서도 데자뷰처럼 나오고 있는 것이다. 기술의 발전에 규제가 일일이 규제를 할 수 없다면 결국 인터넷처럼 자율규제를 할 수밖에 없다는 결론에 이른다. 보이지 않는 손에 대한 규제도 보이지 않게 자연스럽게 해야 된다는 것이다. 알고리즘을 둘러싼 4차산업의 큰 생태계에서 정부, 산업, 사용자들의 다이내믹한 상호작용과 성숙된 의식이 중요해질 것이다. 기술발전과 산업의 역동성을 고취하며 공공과 사용자의 권익을 보호할 수 있는 합리적인 알고리즘 규제 모델이 시급하다.

[저작권자 ⓒ디지털타임스 무단 전재-재배포 금지]

추천기사