15㎝ 기계로 ‘405B AI’까지…인기 이유 보여준 델

델 프로 맥스 위드 GB10 시연 가로세로 15㎝ 크기의 기계가 인공지능(AI) 하드웨어 시장을 뒤흔들고 있다. 델 테크놀로지스가 최근 내놓은 구독이나 API 사용료 같은 추가 비용 없이 내 책상 위에서 로컬 AI를 가동할 수 있는 ‘AI 시스템’이 국내에서 큰 인기를 얻고 있다. 델 테크놀로지스는 11일 ‘델 프로 맥스 위드 GB10’ 미디어 데모 세션 행사를 열고 AI 시스템 두 개를 연결해 4000억개(405B) 파라미터의 초대형 모델을 로컬 환경에서 구동하는 모습을 선보였다. 윤우진 델 테크놀로지스 이사는 “전통적인 PC나 워크스테이션이 아닌 철저히 AI 개발 목적으로 설계된 장비”라며 “로컬 샌드박스로 데이터 외부 유출 위험을 최소화할 수 있어 헬스케어나 금융, 법률 산업 현장에서 가치를 발휘할 것”이라고 강조했다. 행사에서 가장 주목 받은 것은 ‘스태킹’ 기술이다. 단일 기기로도 128㎇ LPDDR5x 통합 시스템 메모리를 통해 거대 모델을 돌릴 수 있지만, 기기 후면의 초저지연 네트워크 포트를 연결하면 2대의 기기가 256㎇ 메모리를 갖춘 하나의 슈퍼컴퓨터로 통합된다. 이를 통해 초대형 모델까지 기기에 올려 실제로 활용하는 모습도 시연 행사를 통해 직접 선보였다. 막대한 비용으로 제한됐던 데이터 반복 작업이나 내부 데이터를 활용한 추론, 데이터센터 환경에 적용하기 전 AI 애플리케이션 프로토 타입 적용 등 다양한 활용이 가능하다는 것이 델 테크놀로지스의 설명이다. 특히 한국에서의 인기가 두드러지게 나타나고 있다고 강조했다. 델 테크놀로지스 관계자는 “글로벌 시장과 비교했을 때 한국에서의 판매량과 수요가 월등히 높다”며 “AI 적용을 원하는 스타트업과 개발자들의 수요가 많은 것으로 보인다”고 설명했다. 국내 ‘망분리’ 규제 등으로 사내 데이터를 외부 클라우드로 보내는 것이 제한적인 상황에서 일반 사무실 책상 위에 사내 AI 환경을 실험할 수 있는 GB10의 수요가 높은 것으로 풀이된다. 이 기기는 윈도우 등 전통적인 운영체제는 배제하고 우분투 기반의 엔비디아 DGX OS가 기본 탑재됐다. 박스를 뜯고 전원만 켜면 복잡한 세팅 없이 즉시 코딩을 시작할 수 있도록 했다. 다만 철저하게 통제된 폐쇄적 하드웨어 생태계는 숙제로 남는다. 다른 OS를 설치할 경우 정상 작동을 보장하지 않고, 최대 4TB 스토리지 역시 AI 학습 데이터를 수용하기에 한계가 있다는 지적이다. 델 테크놀로지스 관계자는 “추후 출시되는 GB300의 경우 4TB SSD를 4개까지 장착이 될 것으로 예상하고 있다”고 말했다.