디지털타임스

 
검색
속보
아파트값 움직이는 신생아 대출…5.2조 신청
[김세희의 정치사기]조선시대 군역문제를 통해 본 `채상병 특검`
인권위원장 "학생인권조례 폐지 유감"
폭발한 김영민, 김동연 직격…“평화누리자치도? 그 지역 ‘멸공’ 거점될 수도”
경찰관 앞 음주운잔+측정거부, 그래도 집행유예
‘생활고 호소’ 최순실 딸 정유라, 안타까운 근황 “돈 없고 빚이 한 가득인데…”
로또 1등 당첨번호 왜이래…또 무더기 당첨에 네티즌 “조작?”
‘투자 달인’ 워런 버핏 “AI, 핵무기 같은 성장산업… 파급력 커”
[속보] 1118회 로또 1등 `11, 13, 14, 15, 16, 45`, 2등 보너스 번호 `3`
`파리 실종 신고` 한국인 소재 보름만에 확인…"신변 이상 없어"


[DX 넘어 AX 빅뱅] `AI허브`로 온디바이스 AI 혁신 주도

 입력: 2024-04-25 16:06 김나인 기자
프린트 페이스북 트위터 카카오스토리
폰트
 기자 구독 
폰부터 자동차·고객접점까지 '생성형 AI 실험장'
퀄컴, PC용 '스냅드래곤X' 출시
삼성갤럭시 탑재로 모바일 공략
[DX 넘어 AX 빅뱅] `AI허브`로 온디바이스 AI 혁신 주도
'스냅드래곤 X 플러스 플랫폼'이 적용된 PC 이미지. 퀄컴 제공

생성형 AI(인공지능) 돌풍은 스마트폰, PC, 자동차 등 각종 디바이스로 이어지면서 일상생활 속에 빠르게 침투하고 있다. 빠른 개발과 서비스 구현이 요구되는 시기에 퀄컴이 '개인화'에 강점이 있는 '온디바이스 AI' 확산을 주도하고 있다. 온디바이스 AI는 인터넷 연결 없이 자체적으로 AI 기능을 구현, 개인정보보호와 보안에 강점이 있다. 기기에서 AI를 실행해 클라우드 서비스 비용도 줄일 수 있다.

퀄컴은 수십억대의 휴대전화와 자동차 XR(혼합현실) 헤드셋·글라스, PC, IoT(사물인터넷) 등 다양한 영역의 엣지 기기에 AI 혁신을 경험하도록 돕는다. 특히 지난 2월 열린 'MWC(모바일월드콩그레스) 2024'에서 '퀄컴 AI 허브'를 공개했다. AI 허브는 개발자들이 스냅드래곤과 퀄컴 플랫폼을 사용하는 모든 제품에 적용할 수 있는 최적화된 AI 모델 라이브러리를 지원한다.

[DX 넘어 AX 빅뱅] `AI허브`로 온디바이스 AI 혁신 주도
'퀄컴 AI 허브' 이미지. 퀄컴 제공

이 라이브러리는 위스퍼, 컨트롤넷, 스테이블디퓨전, 바이추안 7B 등 75개 이상에 달하는 생성형 AI 모델을 제공해 개발자들이 원하는 대로 조합해 이용할 수 있다. 가령 AI 허브의 스테이블 디퓨전3를 활용해 이미지를 생성하는 식이다. 현재 75가지 모델에서 200여개까지 신규 모델을 지속적으로 늘릴 계획이다.

각 모델은 NPU(신경망처리장치), CPU(중앙처리장치), GPU(그래픽처리장치) 등 퀄컴 AI 엔진의 모든 코어에서 HW 가속화를 최대한 활용할 수 있도록 최적화했다. 이에 따라 4배 가량 빠른 추론 속도가 가능하다. 라이브러리는 소스 프레임워크에서 인기 있는 런타임 환경으로 모델을 자동으로 변환하고, 퀄컴 AI 엔진 다이렉트 SDK(소프트웨어 개발키트)와 직접 연동된다. 퀄컴 관계자는 "개발자는 AI 허브를 통해 상품 개발 기간을 단축하고 온디바이스 AI의 장점을 누릴 수 있다"고 설명했다. 새 플랫폼, 운영체제도 조만간 지원할 예정이다.

[DX 넘어 AX 빅뱅] `AI허브`로 온디바이스 AI 혁신 주도
퀄컴 온디바이스AI 이미지. 퀄컴 제공

퀄컴 온디바이스 AI의 대표적인 축은 모바일과 PC다. 삼성전자의 '갤럭시S24 울트라'는 '갤럭시용 스냅드래곤8 3세대' 탑재를 통해 '갤럭시AI'를 선보이기도 했다. 언어가 달라도 소통을 돕는 실시간 통역이나 채팅 어시스트 기능으로, 모바일 기기 자체에서 AI 기능을 구현한다. 온디바이스AI 보급화를 위해서는 '스냅드래곤8s 3세대'를 출시해 바이추안-7B, 라마 2, 제미나이 나노 등 대표적인 LLM(거대언어모델)을 포함한 다양한 AI 모델을 지원한다. 스냅드래곤 8s 3세대는 아너, 아이쿠(iQOO), 리얼미, 홍미, 샤오미 등 주요 기업 제품에 채택될 예정이다.


PC 시장은 '스냅드래곤X' 시리즈로 공략한다. 퀄컴은 지난해 10월 '스냅드래곤X엘리트'를 공개한 데 이어 25일 '스냅드래곤X플러스' 출시를 예고했다.
스냅드래곤X플러스는 퀄컴 오라이온 CPU를 탑재해 최대 54% 적은 전력으로 경쟁사 제품 대비 37% 빠른 CPU 성능을 제공한다. 노트북용 NPU로는 45 TOPS(초당 1조번 연산) 성능의 퀄컴 헥사곤 NPU를 활용해 온디바이스 AI 기반 애플리케이션의 요구 사양을 충족하도록 설계했다. 스냅드래곤X 플러스 기반 PC는 스냅드래곤X엘리트 기반 단말과 함께 올해 중반 출시 예정이다. 케다르 콘답 퀄컴 수석 부사장겸 컴퓨팅 및 게이밍 부문 본부장은 "스냅드래곤 X 플러스는 이에 맞춰 더 많은 사용자가 앞서갈 수 있도록 AI 성능이 대폭 향상된 PC를 지원해 모바일 컴퓨팅 분야의 가능성을 확장할 것"이라고 말했다.

[DX 넘어 AX 빅뱅] `AI허브`로 온디바이스 AI 혁신 주도
지난 2월 열린 'MWC 2024' 퀄컴 부스에 전시된 'AI핀'. 김나인 기자



자동차, IoT, 통신 모뎀, 와이파이 등도 AI로 파고든다. 스냅드래곤 자동차 플랫폼 '스냅드래곤 디지털 섀시'에 생성형 AI 기능을 적용하고, 최근 이슈로 떠오른 옷에 부착하는 AI 비서 'AI핀'에도 '스냅드래곤720G' 프로세서가 탑재된다. AI에 최적화된 와이파이7 시스템인 '패스트커넥트 7900 모바일 커넥티비티 시스템'과 5.5G를 지원하는 '스냅드래곤 X80 모뎀-RF 시스템'도 인프라의 혁신을 통해 일상을 바꿀 전망이다. 김나인기자 silkni@dt.co.kr


[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]