[기획] 아이폰에도 AI모델 쏙… ‘내 손 안의 DC’ 현실로 성큼

애플, 스타트업 프리즘ML과 협력 메모리사용량 10~15배 감축가능 압축 고도화에 HBM 수요 ‘긴장’ 아직 영향 제한적… 검증이 관건 삼성전자가 ‘갤럭시 S24’를 ‘인공지능(AI)폰’이라고 소개한 2024년 전후로 온디바이스 AI는 모바일 시장에서 핵심적인 기반 기술이 될 것이라는 평가를 받았다. 스마트폰이 향후 개인의 AI 플랫폼이자 데이터센터(DC)의 역할을 수행하며 AI 확산의 핵심 축으로 자리 잡을 것이란 기대감이 컸다. 이후 AI 모델 기업들은 어느 환경에서나 사용 가능한 경량 모델을 개발하고 스마트폰 제조사들은 AI를 원활히 구동할 수 있는 하드웨어(HW)를 만들어 올해 본격적인 모바일 AI 에이전트 시대가 열렸다. 이런 가운데 AI 지각생이란 평가를 받는 애플이 차세대 시리를 비롯한 AI 생태계를 뒷받침할 온디바이스 AI 역량을 내재화할 것으로 전망된다. 14일(현지시간) 미국 경제방송 CNBC 보도에 따르면 애플은 메모리 사용량은 축소하되 성능은 유지하는 압축 기술을 보유한 스타트업 프리즘ML과 협력을 논의하고 있다. 미 캘리포니아공대(칼텍)에서 분사한 프리즘ML은 이날 중국 알리바바의 오픈소스 모델인 ‘큐원’의 압축 버전 2종을 공개했다. 칼텍 전기공학 석좌교수인 바박 하시비 프리즘ML 최고경영자(CEO)는 “애플 등 여러 기업이 자사 기술을 평가하고 있다”며 “논의는 초기 단계지만 순조롭게 진전되고 있다”고 말했다. 이 회사는 54GB 크기의 모델을 4GB 미만으로 줄여 270억개의 파라미터를 아이폰 15 이상의 기종에서 구동할 수 있다고 주장한다. 중앙처리장치(CPU), 그래픽처리장치(GPU), D램 등 핵심 부품의 연산량이 제한적인 모바일 환경에서 AI 이용 경험을 대폭 개선할 수 있다는 것이다. 프리즘ML은 모델 내부 값을 16비트에서 1∼3개 값으로 단순화하는 방식으로 메모리 사용량을 기존 대비 10∼15배 줄이고, 응답 속도는 6∼8배, 에너지 효율은 3∼6배 높였다고 밝혔다. 프리즘ML은 이 방식을 활용하면 GPU 8개가 필요한 클라우드용 모델을 GPU 1개로 구동할 수 있고, 서버가 있어야 구동되는 모델을 스마트폰과 노트북으로 옮길 수도 있다고 설명했다. 다만, 정확도는 다소 떨어질 수 있다. 이번 양사 협력의 의미는 애플이 AI 경쟁력을 회복하고자 하는 것에 그치지 않는다. 애플이 성공할 경우 글로벌 기업들이 AI 투자 전략을 수정해야 한다는 의미까지 내포하고 있다. ‘대규모’에서 ‘고도의 압축’으로 패러다임이 전환됨에 따라 현재의 DC 투자 광풍은 그 열기가 줄어들 수 있다는 것이다. 메모리 반도체의 경우 AI DC에 필요한 고대역폭메모리(HBM) 중심의 수요 확대 전망이 흔들릴 수 있다는 예상도 나온다. 반론도 만만치 않다. 현재의 AI 시장은 ‘에이전트 전환기’라 영향이 제한적이라는 주장이 대표적이다. AI 도입 기업과 AI 사용자가 아무리 AI를 효율적으로 사용할 수 있어도, 다수의 AI 에이전트를 통해 업무 전반을 혁신하려면 이를 위한 인프라 투자가 필요하다는 논리다. 간단한 작업은 모바일에서 가능해도 복잡한 추론, 장문 처리, 멀티모달 고난도 작업은 여전히 서버를 필요로 한다. 또한 AI 모델 및 에이전트 기업들이 이미 경량 모델을 분업화시켜 성능을 향상하는 ‘하네스 엔지니어링’ 기술을 도입했지만, 아직까지 인프라 투자에 막대한 비용을 투입하고 있다. 신규 에이전트 개발 및 성능 향상을 위한 투자가 지속되는 모습이다. 길 루리아 D.A.데이비드슨 애널리스트는 “모델이 작아진다고 칩이 필요 없어지는 게 아니다”며 수요가 데이터센터에서 개별 기기로 옮겨갈 뿐이라고 짚었다. 아울러 온디바이스 AI가 공유형 DC보다 덜 효율적일 수 있다고 지적했다. 공유형 DC는 여러 기업이나 개인이 하나의 대규모 DC 건물에 모여 서버, 네트워크 장비 등의 IT 인프라 공간과 설비를 공동으로 임대해 사용하는 시설을 일컫는다. 카운터포인트리서치의 타룬 파탁 연구소장은 “수백만건의 쿼리와 다양한 기기 조합에 걸친 검증이 관건”이라고 지적했고, IDC의 필 솔리스는 메모리 절감에도 불구하고 상시 구동 시 배터리 소모가 새로운 변수가 될 수 있다고 내다봤다. 김영욱 기자 wook95@dt.co.kr