퀄컴은 메타와 스마트폰, PC, VR·AR 헤드셋, 차량 등에서 메타의 LLM 라마3 실행을 최적화하기 위한 협업을 한다고 19일 밝혔다.
메타가 공개한 라마3는 80억개(8B)와 700억개(70B) 매개변수 두개의 모델로, 현재 동급의 오픈소스 모델 중 최고 수준의 성능을 나타냈다. 메타는 매개변수 700억개 모델이 AI의 문제 해결 능력을 수학, 물리학, 역사 등으로 평가하는 MMLU(다중작업언어이해)에서 79.5점을 얻어 구글의 제미나이 프로 1.0(71.8점)을 능가했다고 설명했다.
두르가 말라디 퀄컴 수석 부사장 겸 총괄 매니저는 "메타 라마3를 통한 메타의 개방형 접근 방식을 축하한다"며 "온디바이스 AI 분야의 리더십과 엣지의 다양한 디바이스에 걸친 광범위한 범위가 결합돼 전 세계적으로 라마 에코시스템의 혜택을 확대하고 고객, 파트너, 개발자가 차세대 획기적인 AI 경험을 창출할 수 있도록 지원할 수 있다"고 말했다.
이번 협력은 곧 출시될 '스냅드래곤' 플랫폼 기반 플래그십 디바이스에서 라마3에 접근할 수 있도록 지원해 생성형 AI 기능을 대중화하는 것을 목표로 한다. 퀄컴 측은 "다양한 기기에서 라마3를 실행할 수 있게 되면 뛰어난 응답성, 강화된 개인정보 보호, 향상된 안정성, 사용자에게 개인화된 경험을 제공하는 등 상당한 이점이 있다"고 내다봤다.
퀄컴은 약 100개의 최적화된 AI 모델을 제공하는 퀄컴 AI 허브를 통해 개발자에게 스냅드래곤 플랫폼에서 라마3를 실행할 수 있는 리소스와 도구를 제공할 예정이다. 김나인기자 silkni@dt.co.kr
[ 저작권자 ⓒ디지털타임스, 무단 전재 및 재배포 금지 ]
