가족대화 녹음해 동료에 잘못 전송... AI 스피커 못 믿겠네

아마존의 인공지능(AI) 비서 알렉사를 탑재한 AI 스피커 에코가 미국 한 가족의 사적인 대화를 임의로 녹음해 제3자에게 잘못 전송하는 일이 일어났다.

24일(현지시간) 파이낸셜타임스(FT)와 CNBC 등에 따르면 오리건주 포틀랜드에 사는 한 부부는 집에서 한 대화가 자신들도 모르게 녹음돼 그 음성 파일이 연락처 명단에 있는 동료에게 임의로 전송되는 황당한 일을 겪었다.

이 부부는 메시지를 받은 동료로부터 전화를 받고서야 이 사실을 깨달은 것으로 전해졌다.

'대니엘'이라는 이름으로만 알려진 여성은 워싱턴주 시애틀 지역방송 KIRO7에 "완전한 사생활 침해"라며 "'저 기기는 믿을 수 없으니 다시는 연결하지 않겠어'라는 말이 바로 나왔다"고 말했다.

아마존은 이런 일이 발생했음을 확인하면서 "에코가 배경 대화 중 '알렉사'처럼 들리는 말 때문에 깨어났고 뒤이은 대화는 '메시지 전송' 요구처럼 들렸다"고 설명했다.

이어 "어떤 시점에서 알렉사는 '누구에게?'라는 말을 소리 내어 했고 어떤 시점에서 배경 대화가 이 고객의 연락처 명단에 있는 한 이름으로 해석됐다"며 "알렉사는 다음에 '(연락처 이름) 맞나요?'라고 외쳤고, 알렉사는 배경 대화를 '맞다'고 해석했다"고 말했다.

아마존은 "이런 일련의 일들은 있을 것 같지 않은(unlikely) 일"이라며 "이런 사례가 발생할 가능성을 더 줄이기 위해 여러 옵션을 고려하고 있다"고 강조했다.

이번 일은 최근 AI 음성인식 기기를 생활 속에 활용하는 사람들이 늘어나는 가운데 보안과 사생활 침해 우려를 더욱 키우는 일이라고 FT와 CNBC는 지적했다.