[포럼] 알고리즘이 만드는 超연결사회

신동희 중앙대 미디어커뮤니케이션 교수
최근 알고리즘에 대한 이슈가 뜨겁다. 뉴스 추천시스템, 검색배열시스템, 아웃링크·인링크 등은 모두 알고리즘에 기반한 서비스이다. 편리하고 유용한 알고리즘이지만 과연 그런 서비스들이 어떤 과정을 통해 추천물이나 검색결과가 나왔는지, 어떻게 데이터를 수집하고 분석하였는지, 나의 데이터가 어떻게 처리되었는지에 대한 것들에 대한 부분을 잘 모르고 또 알 수 있는 방법도 딱히 없다. 많은 머신러닝과 인공지능 시스템에는 어떤 원리로 작동하고 의사 결정을 내리는지 설명하는 기능이 없다. 바로 이 점이 알고리즘 사회에서 신뢰를 가로막는 큰 장애물일 수 있다.

많은 사용자들로부터 얻은 기호정보에 따라 사용자들의 관심사들을 자동적으로 예측하게 해주는 협업 필터링(collaborative filtering)이나 다양한 상품에 대한 정보 분석을 기반으로 하는 메타(meta)분석기법 등의 알고리즘이 활발하게 개발되고 있다. 그러나 그런 기능들이 얼마나 투명성과 공정성을 가지고 작동하는지는 알 수 가 없다.

머신러닝의 환경에서 알고리즘은 알고리즘을 개발한 개발자나 서비스를 제공하는 업체도 이해할 수 없는 블랙박스이기 때문에 투명성이나 신뢰의 문제가 가장 중요해질 것이다. 구글이나 페이스북, 유튜브 등은 더 나은 사용자 경험을 통해 더 편리한 사용자 환경을 만드는 것이 목적이나 결국 그러한 사용자 환경을 통해 자사의 경제적 이득을 높이기 위한 적합도 함수 개발에 집중할 수밖에 없다. 따라서 알고리즘이 그 자체로서 기술적 중립성을 유지할 수 있는 가능성은 낮다. 알고리즘은 특정한 이익이나 이념을 반영할 수 밖에 없는 것이다.

글로벌 기업들이 회사마다 독특한 알고리즘을 개발하기 노력을 다하고 있지만 나중에는 각 회사들의 알고리즘 기술이 거의 비슷해지는 기술의 범용화 현상이 올 것이다. 마치 스마트 시대에 각 브랜드별로 스마트폰들이 기술적으로 큰 차이점이 없어지는 기술의 범용화가 알고리즘에도 일어날 것이다. 알고리즘 기술의 범용화와 머신러닝 기술의 모방이 쉬워지는 시대가 오면 서비스의 차별화가 갈수록 어려워지고 알고리즘 서비스이외에 부가적으로 가치를 제공하는 것이 중요해질 것이다. 즉

알고리즘 개발이 어느 정도 안정이 된 후에는 그 기술적 효능보다 알고리즘 서비스에 내재하고 있는 투명성, 책임성, 공정성 등의 가치를 누가 더 사용자에게 어필하느냐가 관건이 될 것이다. 투명한 기업, 책임 있는 서비스, 공정한 검색이 신뢰를 얻고 결국 시장을 지배하는 시대가 올 것이다. 페이스북은 어떤 소식을 우선 보여주는지 자사 알고리즘의 공개 수위를 높여가면서까지 사용자의 신뢰를 얻기 위해 노력하고 있다. 사용자의 신뢰가 없다면 사용자들의 데이터 제공, 공개, 공유도 낮아질 것이고 데이터의 모수가 줄어든다면 예측력이나 정확성이 떨어지는 서비스가 나올 수 있기 때문이다.

투명성, 공정성, 책임성 등 손에 잡히지도 않는 추상적 단어들이 알고리즘기반 사회에서 중요한 가치로 떠오르고 있다. 투명성이나 공정성, 책임성 등은 명확한 기준이나 절차가 있는 것이 아니기 때문에 사용자들이 그런 개념들을 어떻게 인식하고 인지하느냐가 중요하다. 기술적 기준이 아니라 사용자 중심의 가치가 알고리즘에서 중요해진다는 것이다. 투명성, 공정성 등의 개념들을 통해 사용자들의 안심을 이끌어내고 사람들간 참여자들간의 신뢰의 연결고리를 형성하여 사회적 자본을 통해 신뢰기반의 알고리즘 생태계를 만드는 것이 중요하다.

알고리즘에 의한 의사결정과 서비스가 확산될수록 알고리즘간 담합이나 조작의 가능성도 높아진다. 머신러닝과 인공지능은 사람이 놓치는 패턴, 알고리즘의 정확성을 개선하는 중요한 관계를 드러낼 수도 있는 패턴을 찾지만 때로 중요한 관계를 누락하거나 엉뚱한 추천, 때로는 위험한 추천을 하기도 한다.

악의적 조작이나 의도적 개입에 의해 투명성이 훼손되고 신뢰가 붕괴할 수 도 있다. 신뢰기반의 알고리즘 생태계는 인간의 인지적 능력의 한계를 신뢰라는 인간간의 연결고리로 엮어 신뢰플랫폼을 형성해 나가는 과정이다.

확고한 신뢰구조를 기반으로 새로운 제도적 거버넌스가 실행되는 알고리즘 생태계를 통해 사람과 사물이 연결되어 가는 초연결 지능정보사회를 만들어 나가야 한다.