"중저가 폰·PC에도 온디바이스 AI 구현"

퀄컴, 신형 '스냅드래곤' 발표
Y2K 슈퍼컴 성능·운용비 절감
90만원대 저가PC도 적용 가능
"'인공지능(AI) 거품론' 자체는 더 이상 중요하지 않습니다. AI로 유저 인터페이스가 음성으로 변하고 스마트폰, PC 등 다양한 디바이스로 확대하는 만큼 퀄컴은 AI에 맞춰 새 형태의 디바이스가 등장할 것으로 보고 변화를 만들고자 합니다."

두르가 말라디(Durga Malladi·사진) 퀄컴 테크날러지 수석부사장 겸 기술 기획·엣지 솔루션 본부장은 지난 6일 그랜드 하얏트 서울 호텔에서 열린 'AI 미디어 브리핑'에서 "프리미엄 모바일, PC뿐 아니라 미드 티어(중가시장)에서도 광범위하게 온디바이스 AI를 구현하겠다"며 이같이 밝혔다.

스마트폰 칩셋 강자인 퀄컴은 AI PC 시장 개막과 함께 스마트폰뿐 아니라 PC로 영역을 확장하고 있다. 최근에는 독일 베를린에서 열린 'IFA 컨퍼런스'에서 PC용 스냅드래곤 시리즈를 확장한 '스냅드래곤X 플러스 8 코어'를 공개했다. 고가에만 적용되던 AI를 700달러(한화 94만원 상당)대 저가 PC에도 파고들 수 있도록 설계해 기기 확장 범위를 넓힌다는 계획이다. 삼성, 구글과 공동으로 스마트폰에 연결된 혼합현실(MR) 스마트 글라스(안경)도 개발하고 있다고 밝혔다. 스마트폰, PC뿐 아니라 안경에서도 AI를 구현할 것으로 전망된다.

말라디 수석부사장은 온디바이스 AI(단말형 AI) 등 분산형·생성형 AI로 에너지 사용 문제를 해결할 수 있다고 내다봤다. 그는 "Y2K(2000년대) 시절 1999년도 슈퍼컴퓨터에 맞먹는 성능과 역량이 '스냅드래곤'을 통해 구현되고 있다"며 "사용하는 전력은 LED 전구 하나가 쓰는 것보다 적다"고 강조했다.

이와 함께 온디바이스 AI가 챗GPT 등 대규모언어모델(LLM) 주도에서 소규모언어모델(sLLM) 기반의 '소형 AI'가 주목받는 흐름을 주도하고 있다고 짚었다. sLLM(소형거대언어모델)은 LLM(거대언어모델)보다 매개변수가 적어 운용 비용이 적고 효율성이 높다. 오픈AI의 챗GPT 등장 당시 매개변수가 1750억개 이상의 LLM이 주목받았지만, 최근 테크 기업들은 최근 효율성 높고 가벼운 sLLM에 주목하고 있다. 지난 6월 메타에서 발표한 '라마-3'는 매개변수 80억개로도 GPT-3.5와 대등한 수준을 성능을 구현한다. 그는 "매년 소형언어모델 성능이 전년 대비 10배씩 폭발적으로 증가하고 있다"며 "sLLM을 온디바이스 AI로 충분히 실행·구동하면서 풍부한 경험을 사용자에게 제공할 수 있게 됐다"고 말했다.

말라디 수석부사장은 퀄컴이 지난 15년간 AI 연구·개발(R&D)에 나서며 중앙처리장치(CPU), 그래픽처리장치(GPU), 신경망처리장치(NPU) 등 혁신을 이뤘다고 강조했다. 모바일뿐 아니라 PC, 웨어러블, 자동차, 엣지네트워킹, 산업용 사물인터넷(IoT), 엣지컴퓨팅 등 디바이스를 확장했다는 설명이다. 스마트폰에서는 삼성전자 등과 협력해 실시간 통역, 동그라미를 그려 검색하는 '서클 투 서치', AI 지우개, AI 비디오 등 다양한 AI 기능을 구현했고, 인터넷 없이도 MS의 AI 모델 '코파일럿'을 이용할 수 있는 '코파일럿+ PC' 21종이 이미 시장에 나왔다고 설명했다. 퀄컴의 '스냅드래곤X'를 탑재한 코파일럿+PC는 텍스트 요약이나 문서생성, 워드 변환 등 생산성 툴 혁신에 중점을 두고 있다.

그는 이어 퀄컴은 AI 생태계를 선도하고 있다고 자신했다. 개발자 대상의 '퀄컴 AI 허브'로 스냅드래곤 플랫폼 기반의 기기에서 모델을 5분 만에 구현할 수 있도록 했고, '책임성 있는 AI'를 구현하고자 'AI 안전 워킹그룹'의 창립 멤버로도 활동하고 있다는 설명이다. 퀄컴은 온디바이스 AI 투명성을 위해 트루픽(Truepic)과도 협업해 AI로 구현한 이미지 생성 검증 활동에도 나서고 있다.

말라디 수석부사장은 "스포츠 애플리케이션(앱) 개발자가 퀄컴의 'AI 허브' 툴을 활용해 기존에 비해 15배 지연시간을 낮추고 한 주 만에 100만 다운로드를 돌파했다"며 "서드 파티 개발자가 AI 허브를 사용해 어떻게 해결할지 모르는 문제를 해결할 수 있다. AI 허브를 통해 자체 개발자, 외부 개발자 등 모두에게 다양한 개발 편의성과 기회를 제공하고 있다"고 강조했다.

그는 "AI는 영국 경제 국내총생산(GDP)과 맞먹을 정도 규모로 전세계 경제를 변화시킬 수 있는 잠재력이 거대한 만큼 극복해야 할 과제도 산적하다"며 "기술 진화에 따라 퀄컴도 변화를 만들기 위해 지속적으로 노력할 것"이라고 덧붙였다.

김나인기자

silkni@dt.co.kr