LG유플러스, ‘엑사원 3.5’ 경량화한 온디바이스 AI 개발

LG AI연구원, 옵트에이아이와 협력 AI 통화 앱 ‘익시오’ 고도화에 활용 LG유플러스가 LG AI연구원, 옵트에이아이와 함께 대형언어모델(LLM) ‘엑사원 3.5’ 기반 온디바이스 소형언어모델(sLM)을 개발했다고 밝혔다. 이번 모델은 인공지능(AI) 통화 앱 ‘익시오’에 적용될 예정이다. 이번 sLM은 LG AI연구원이 지난해 12월 공개한 ‘엑사원 3.5 2.4B’ 모델을 기반으로 한다. LG유플러스와 LG AI연구원, 온디바이스 AI 솔루션 업체인 옵트에이아이는 약 6개월에 걸친 연구를 통해 개발에 성공했다. 온디바이스 기술은 AI 서비스 확산과 보안성 향상에 필수적이다. 일반적인 LLM은 네트워크와 서버를 거쳐 구동돼야 하는 탓에 보안·속도·접근성 측면에서 한계가 있지만, 온디바이스 sLM으로 구현될 경우 이용자의 데이터가 외부 네트워크나 서버를 거치지 않고 자신의 스마트폰 내에서 구동되므로 보안성이 강화된다. LG유플러스는 온디바이스 sLM으로 개발된 엑사원을 ‘익시오’에 적용해 서비스를 고도화할 계획이다. 기존 익시오에 구현된 온디바이스 AI 기술은 중앙처리장치(CPU)를 사용했지만, 신경망처리장치(NPU) 기반의 온디바이스 sLM을 적용하면 성능은 동일하지만 전력 소모량은 기존 대비 78%, 모델 크기는 82% 줄어든다. 더욱이 엑사원이 한국어 처리 능력 측면에서 우수한 성능을 보유한 만큼 익시오가 제공하는 통화 요약 및 통화 내용 텍스트 변환 등 기능과 시너지가 날 것으로 전망된다. 실제로 LG유플러스는 엑사원 기반의 온디바이스 sLM을 익시오에 적용해 △한 줄 요약 △상세 요약 △키워드 추출 △AI Task 제안 등 기능 고도화에 나설 방침이다. 내달 베타 테스트를 통해 안정성 및 품질 검증을 완료하고 이르면 내년 상반기 상용화 예정이다. 엑사원 기반 온디바이스 sLM은 퀄컴의 ‘스냅드래곤8’ 칩셋을 기반으로 하는 스마트폰에 탑재된다. 내년에는 iOS 운영체제가 적용된 스마트폰까지 적용 범위를 확대할 예정이다. 나아가 LG유플러스와 LG AI연구원, 옵트에이아이는 지속적인 온디바이스 AI 기술 개발을 통해 지난 7월 출시된 ‘엑사원 4.0’도 온디바이스 sLM으로 구현할 방침이다. 이를 통해 온디바이스 sLM 기반의 익시오가 제공하는 서비스도 개인별 맞춤형으로 발전시킨다는 전략이다. 송대원 LG유플러스 기술개발그룹장은 “세계적으로 인정받고 있는 엑사원의 성능을 유지하면서 온디바이스로 구현될 수 있도록 만든 sLM을 통해 더욱 안전하고 고도화된 AI 서비스를 제공할 수 있게 됐다”며 “앞으로도 온디바이스 AI 기술 고도화를 지속하여 초개인화된 온디바이스 에이전트를 선보이며 시장 내 선도 사업자로서의 입지를 한층 더 강화하고 차별화된 사용자 경험을 제공할 것”이라고 말했다.