[포럼] AI서비스 확산과 윤리적 문제

신동희 중앙대 미디어커뮤니케이션학부 교수

  •  
  • 입력: 2018-07-22 18:00
  • 프린트
  • 페이스북
  • 트위터
  • 카카오스토리
[포럼] AI서비스 확산과 윤리적 문제
신동희 중앙대 미디어커뮤니케이션학부 교수

구글이 최근 공개한 듀플렉스(Google Duplex)는 사람을 대신해 인간처럼 전화 통화를 할 수 있는 진일보된 인공지능 서비스다. 구글서비스와 연동돼있어 자동적으로 필요한 서비스를 스스로 알아서 전화하고 예약을 잡는다.

비행기표의 출도착 시각에 따라 호텔에 전화 예약을 하고, 인근 식당에 전화를 걸어 저녁예약을 할 수 있고, 렌터카 회사에 연락해 렌터카를 고르고 예약을 한다. 듀플렉스가 사람을 대신해 전화를 하는 것을 공개한 녹음 데모는 인간의 목소리 톤 및 말투와 거의 비슷해서 전화 상대방이 로봇이라고 전혀 인지하고 어려울 정도다.

듀플렉스는 사람의 말처럼 감탄사나 추임새도 적절히 넣고 기분 언짢은 반응도 하며 상황에 맞는 적절한 추가 질문을 하기도 한다. 이제 챗봇을 비롯한 인공지능이 기술적으로 진보해 인간의 대화상대로 손색없는 수준에까지 이르렀다. 인공지능의 목소리, 대화 능력은 이미 인간과 매우 유사한 수준에 도달했다. 콜센터는 점차 알고리즘에 의한 AI로 대체될 것으로 예상되고 이제는 AI가 사람에게 전화를 걸기도 한다.

그러나 아무리 챗봇이나 인공지능이 발전해도 어떤 중요한 일에 있어 로봇보다 사람과 통화하고 싶어하는 것이 인지상정이다. 콜센터에 전화해도 직접 사람과 통화할 수 있는 메뉴를 선택하는 것은 사람에게 자신의 애로를 상담하고 인간을 통해 문제점을 직접 해결하고 싶어하는 인간적 본능 때문이다. 사람인 줄 알았던 자신이 통화한 상대가 챗봇이고 인공지능이라고 밝혀질 경우 기만당했다는 불쾌감과 함께 때로는 두려움까지 생길 수 있다. 상대방이 사람인 줄 알고 대화를 하다가 나중에 사람이 아닌 것으로 밝혀질 경우, 실제 인간은 심리적 거부감과 불쾌감을 느끼기 쉽다. 로봇이 자신의 정보를 이용해 향후 사기나 불법적 행위를 하지 않는다는 보장이 없지 않은가? 인건비 절감과 서비스 효능화에 따라 기업은 더욱더 인공지능에 의지하게 되지만 고객의 입장에서는 고급의 서비스를 로봇에 의해 기만적으로 받았다는 실망과 신뢰저하에 직면하게 된다. 기업과 고객사이의 신뢰가 로봇이라는 비인격체적 매개에 의해 무너질 우려가 크다.

인공지능, 알고리즘, 기계학습 등 4차 산업혁명의 기술들은 필연적으로 신뢰가 가장 중요한 역할을 할 것이다. 인공지능 로봇이라는 비인격체에 사람들의 신뢰를 어떻게 형성시킬 시킬 것인가가 기능적 문제를 넘어 중요한 요인이 될 것이다. 신뢰는 개인적 윤리적 문제를 넘어 사회적 문제로도 중요하여 신뢰기반의 ICT 사회를 형성하는 데 중요하다.

듀플렉스, 챗봇 등 인공지능 서비스에 대해서도 고객의 신뢰형성이 중요한데, 기능적으로 인간의 서비스와 똑같다는 점을 강조할 것이 아니라 해당 서비스가 인공지능과 알고리즘을 통해 제공되는 점을 미리 고지하는 것이 신뢰를 형성할 수 있는 길일 것이다.

인간인 줄 알고 농담까지 건넨 상대가 알고리즘에 의해 자동 생성된 답변이라는 것을 알고 기분 나쁘지 않을 사람은 없을 것이다. 듀플렉스, 챗봇 등의 인공지능 서비스에 대해 사전에 알고리즘이라는 사실과 서비스의 목적 등에 명확히 사전 고지하는 것이 중요하다. 최근 유럽의 일반개인정보보호법(General Data Protection Regulation)도 이러한 맥락으로 기술/데이터에 관한 사용자에게의 명확한 고지와 사용자의 주체적 사용이 중요해질 것이다. 사용자는 기술의 수동적 수용의 대상이 아니라 능동적으로 기술과 데이터를 통제할 수 있어 한다는 것이다. 사용자가 단순히 인공지능의 테스트베드나 기니피그의 실험대상이 아닌 사용자의 가치와 편의가 주가 되는 개발이 중요한 것이다.

인공지능 기술 등 융합 기술을 접목한 챗봇 시스템의 기술이 지속적으로 고도화 되면서 사용자의 사용성과 정보접근성을 높여주는 서비스가 하루가 다르게 소개되고 있다. 그러나 아직은 인공지능 서비스 산업이 초기 단계인 만큼, 서비스의 신뢰성과 윤리적 마지노선을 확보할 수 있는 최소한의 제도적 장치가 필요하다.

[저작권자 ⓒ디지털타임스 무단 전재-재배포 금지]

추천기사