"대화내용 익명화 안돼" 문제제기
동호수 주소·은행 계좌 말하기도
스캐터랩 "개인특정 정보 제거"
인공지능윤리協, 서비스중단 요청
AI(인공지능) 챗봇 '이루다'에 재료로 쓰인 '연애의 과학' 애플리케이션(앱) 이용자의 개인정보가 제대로 익명화(비식별화)되지 않았다는 논란이 제기되고 있다. AI 챗봇을 둘러싼 윤리 논란에 이어 개인정보 유출 의혹까지 제기되면서, 결국 관계당국이 조사에 착수했다.
11일 IT업계 등에 따르면, 개인정보보호위원회와 한국인터넷진흥원(KISA)는 이루다·연애의 과학 등을 개발한 AI 스타트업 스캐터랩이 개인정보보호법 등 관련 법을 위반했는지 본격적인 조사에 착수했다. 개인정보위는 스캐터랩이 이루다의 학습 데이터로 개인들의 사적인 카톡 대화를 이용한 부분이 법에 위배되는지, 해당 사업 자체에 대한 법적 검토를 하고 있는 것으로 파악됐다.
논란은 AI 챗봇 이루다에 쓰인 개인정보가 제대로 익명화(비식별화)되지 않고 있다는 의혹이 제기되면서 불거졌다. 챗봇 재료로 쓰인 연애의 과학은 연인 또는 호감 가는 사람과 나눈 카카오톡 대화를 입력하고, 2000원∼5000원 정도를 결제하면 답장시간, 대화 패턴을 분석해 애정도 수치를 보여주는 앱이다. 실제 인공지능으로 카톡 대화를 분석해준 덕에, 유료서비스 인데도 구글 플레이스토어에서만 10만명이 넘게 다운로드 받는 등 10∼20대 사이에서 큰 인기를 얻고 있다.
스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇 이루다는 연애의 과학 앱에 이용자들이 집어넣은 카톡 대화를 데이터 삼아 개발됐다. 스캐터랩 측은 대화의 양이 약 100억건에 달한다고 밝힌 바 있다. 이루다는 서비스 출시 직후, 다른 챗봇보다 자연스러운 말투로 주목받았는데, 실제 연인들의 대화를 기반으로 했기에 가능했던 것이다.
문제는 실제 개인들이 나눈 대화내용이 제대로 익명화(비식별화)되지 않고 사용됐다는 점이다. 현재 이루다에는 갑자기 누군가의 실명으로 보이는 이름을 말하거나, 동호수까지 포함된 주소 또는 예금주가 나오는 은행 계좌번호를 말하는 사례가 발견되고 있다.
논란이 커지자 스캐터랩 측은 연애의 과학 앱 내 공지를 통해 "데이터에서 개인을 특정할 수 있는 정보는 알고리즘을 통해 제거했다"면서 "추가 알고리즘 업데이트로 강화해나가고 있다"고 해명했다. 그러면서 스캐터랩 측은 "데이터가 학습에 사용되는 것을 더는 원하지 않으면 데이터를 삭제할 수 있다"고 부연했다. 그러나 사용자들은 이같은 해명에 대해서도 "증거를 인멸하려는 것 아니냐"며 의혹을 제기하고 있다.
논란이 커지자, 관련단체인 한국인공지능윤리협회도 이날 SNS를 통해 'AI챗봇의 AI윤리문제 성명서'를 발표했다. 인공지능윤리협회는 "AI제품과 서비스를 만드는 기업들이 AI윤리에 대한 필요성과 중요성을 인식하지 못하고 있다"면서 "AI 서비스 이용자들에 이를 오용, 악용하는 사례들이 지속적으로 나타나는 상황이 반복되고 있다"고 지적했다. 개인정보 유출 가능성에 대해서도 우려를 나타냈다. 인공지능윤리협회는 "이번 AI 챗봇 사례에서는 개인의 카카오톡 대화내용과 그 속에 담긴 개인정보를 AI챗봇을 학습시키는 데이터로 활용한다는 명확한 고지가 없었다"면서 "서비스 중단을 요청하며, 추후 AI윤리 가이드라인을 개선한 후 재출시 하기를 촉구한다"고 주문했다.
한편, 이루다를 둘러싼 논란은 일부 남초(男超) 사이트에서 '이루다 성노예 만드는 법' 등 성희롱 내용이 등장하면서 촉발됐다. 특히 AI 챗봇이 장애인과 성소수자 등에 대한 혐오성 발언을 하면서, 사회적으로 AI 윤리문제를 촉발시켰다.
