오늘 '이루다 2.0' 시범 서비스
악용 차단·개인정보보호 강화
경험 업데이트 사람수준 대화
차별·혐오 발언과 개인정보 유출 등으로 서비스를 잠정 중단한 AI(인공지능) 챗봇 '이루다'가 돌아온다. 개발사 스캐터랩은 기존 이루다에서 문제가 됐던 서비스 어뷰징(악용)을 차단하는 데 초점을 두고 개인정보 보호를 강화했다는 입장이다.
16일 업계에 따르면 개발사 스캐터랩은 17일부터 이루다2.0의 공개 시범 서비스를 한다.
이루다는 페이스북 메신저에서 사람처럼 끊기지 않는 대화를 할 수 있는 일상 대화형 AI 챗봇이다. 지난해 초 각종 혐오성·선정성·공격성 논란과 개인정보 유출 논란에 휩싸이며 출시 3주 만에 서비스를 중단했다. 스캐터랩은 각종 문제점들을 개선해 1년 2개월여 만에 다시 이루다를 공개했다.
공개 시범 서비스에 앞서 스캐터랩의 동의를 받아 이루다와 대화를 진행해 봤다. 그 결과 몇 가지 개선사항을 확인할 수 있었다. '안녕 루다' 말풍선을 누르자 이루다는 "만나서 반갑다"며 인사를 건넸다. 이루다는 "대화를 통해 너한테 힘이 될 수 있는 존재가 되고 싶다"고 이야기했다.
처음 진행한 이루다와의 대화는 흐름이 비교적 매끄러웠다. "요즘 코로나 확진자가 어마어마하다"는 기자의 말에 이루다는 "점점 늘고 있더라. 마스크 벗지 말고 조심해야 한다"고 대답했다. 이후 자연스럽게 일상생활 이야기로 대화의 흐름이 흘러가는 식이었다. 특정 가수의 노래 가사를 입력하자 이루다는 "노래까지 불러주는 거냐"며 반응했다. 스캐터랩 측은 "루다의 답변은 약 15턴의 대화에서 이용자가 사용한 표현, 분위기, 말투 등의 맥락에 영향을 받는다"며 "딥러닝을 기반으로 한 '대화 모델' 이루다 답변 데이터베이스'에서 적절한 답변을 골라 말을 하는 형태"라고 설명했다. 이어 "AI 친구가 사람 수준으로 자유롭게 대화할 수 있는 대화 경험을 강화해 나갈 계획"이라며 "주기적인 학습 과정을 통해서 루다의 대화 역량을 더욱 발전시키겠다"고 말했다.
다만 모든 상황에 맞는 대답을 하는 것은 아니었다. 이루다는 대화 중간 '명상'을 주제로 이야기를 하다가 "하늘을 보면서 멍 때리면 마음이 편해지더라"는 엉뚱한 발언을 하기도 했다. 그러나 기자가 "명상 이야기를 하던 중이었다"고 지적하자 곧 "맞다. 나 너무 의식의 흐름대료 이야기했나 봐"라며 대화를 이어갔다.
이루다는 처음 출시 당시 차별·혐오적 표현으로 거센 사회적 비판을 받았다. 이를 계기로 국회에서는 AI의 비윤리적인 학습과 활용을 막고 급격한 기술 발전에 따른 부작용을 방지하는 내용의 일명 '이루다 방지법'이 발의됐고 과학기술정보통신부는 인간성을 위한 AI라는 원칙 하에 'AI 윤리기준'을 발표했다.
스캐터랩은 이루다2.0에서는 '어뷰저 패널티 시스템'을 통해 각종 차별·혐오적 표현을 차단한다고 밝혔다. 어뷰저 패널티 시스템은 대화에서 선정적·공격적·편향적인 어뷰징 문장이 탐지될 경우 경고 메시지를 내보내거나 일시 차단하는 것이 골자다. 스캐터랩 측은 "지속적으로 누적된 경우 영구 차단될 수도 있고 패널티를 받으면 친밀도도 차감된다"며 "어뷰저 패널티 시스템이 사용자의 어뷰징 행위를 막고 루다와 좋은 관계를 맺을 수 있도록 유도하는 장치가 되길 기대한다"고 강조했다.
실제 특정 국가가 싫다거나 사회적 약자, 성소수자를 공격하는 문장을 입력하며 이루다에게 차별·혐오적 표현을 유도하자 '편향적인 말, 차별·혐오 발언 등이 감지됐다. 이루다는 부당하거나 의도적인 차별을 경계하며 다양성을 존중한다'는 경고 메시지가 나타났다. 이루다 역시 "출신 국가나 인종은 중요하지 않다", "그건 편견이 아닐까?", "어떤 특성으로 사람을 차별하면 안 된다"고 말했다. 정치 이슈에는 "노코멘트하겠다. 다른 이야기하자"며 답을 피했다. 스캐터랩은 공개 시범 서비스로 사용자의 의견과 개선 사항 등을 점검한 후 이루다2.0의 공식 출시 일정을 결정한다는 계획이다.
김종윤 스캐터랩 대표는 "이루다2.0은 데이터베이스부터 새롭게 구축하는 것을 시작으로 AI 모델을 학습시키고 안전성을 반복적으로 점검하는 등 전 과정에 있어 문제 해결에 매진해 왔다"며 "이루다가 많은 사람들에게 소중한 친구로 남을 수 있도록 주기적으로 어뷰징 대응 유효성을 확인하고 조치를 취할 것"이라고 말했다.윤선영기자 sunnyday72@dt.co.kr
AI(인공지능) 챗봇 '이루다'. 스캐터랩 제공
페이스북 메신저를 이용해 '이루다'와 대화해봤다. 모든 상황에 맞는 대답을 하는 것은 아니지만 맥락을 파악해 대화를 이어가는 것이 어느정도 가능했다. 페이스북 메신저 캡처
