“데이터센터를 ‘하나의 거대한 칩’처럼”…CPU·AI·가속기·메모리를 ‘CXL’로 연결

KAIST 교원창업기업 파네시아-메타 공동연구팀 제시 차세대 AI 데이터센터 설계에 활용..데이터 속도·운영 효율 높아 KAIST 교원 창업기업이 글로벌 빅테크 기업인 메타와 함께 차세대 인공지능(AI) 데이터센터의 새로운 설계 전략을 제시했다. 중앙처리장치(CPU)와 AI, 가속기, 메모리를 연결해 데이터센터 전체가 ‘하나의 거대한 칩’처럼 작동하는 구조 설계를 완성했다. 앞으로 대규모 AI 인프라 성능과 안정성을 높일 수 있는 차세대 AI 데이터센터로 발전시켜 나갈 수 있는 토대가 될 전망이다. KAIST는 정명수 전기및전자공학부 교수와 교원 창업기업인 파네시아 연구팀이 메타 연구팀과 공동으로 차세대 AI 데이터센터 구조를 분석·제안한 리뷰 논문을 국제 학술지 ‘네이처 리뷰 일렉트리컬 엔지니어링’ 지난 8월에 게재했다고 9일 밝혔다. 최근 생성형 AI와 초거대 AI 모델의 발전으로 AI 연산에 수 백에서 수 천개의 가속기를 동시에 사용하고 있다. 하지만 무작정 가속기를 많이 연결한다고 데이터 전송 속도가 빨라지는 것은 아니다. 수많은 가속기와 메모리를 얼마나 빠르고 효율적으로 연결하느냐가 관건이다. 연구팀은 CPU·가속기·메모리를 빠르게 연결하고 자원을 공유하는 국제표준 기술인 ‘CXL’(Compute Express Link)을 활용했다. 기존 데이터센터가 서버별 연산자원을 네트워크로 연결하는 구조라면, 연구팀은 서버 간 경계를 낮춰 CPU·가속기·메모리를 하나의 컴퓨팅 시스템으로 동작하도록 연결한 것이다. 엔비디아 NVLink나 UALink 등은 여러 가속기를 빠르게 연결하지만, 주로 랙(여러 서버와 장비를 층층히 설치하는 구조) 내부 연결에 초점을 둔 반면 이번 구조는 가속기뿐 아니라 CPU와 메모리까지 CXL로 연결하고, 그 범위를 데이터센터 전체로 확장한 것이라고 연구팀은 설명했다. 이 구조에서는 하나의 연결 영역에 최대 960개의 가속기를 연결할 수 있는데, 이는 엔비디아의 NVLink 기반 랙보다 약 13배 큰 규모다. 데이터 전송 시간도 기존 네트워크 기반 구조의 마이크로초(㎲·100만분의 1초) 수준에서 수백 나노초(㎱·10억분의 1초) 수준으로 줄일 수 있다. 운영 역시 CPU·가속기·메모리를 각각의 자원처럼 연결해 운영 효율과 유연성을 높일 수 있다. 만약 문제가 생기면 해당 부품만 교체하거나 남는 연산과 메모리 자원을 필요한 곳에 활용할 수 있다. 정명수 KAIST 교수 겸 파네시아 대표는 “AI 규모가 늘어날수록 개별 가속기 성능뿐 아니라 가속기와 메모리를 얼마나 빠르고 효율적으로 연결하느냐가 중요하다”며 “이번 연구는 CXL을 기반으로 데이터센터 기본 단위를 ‘서버’에서 ‘데이터센터’ 전체로 확장하는 설계 방향을 제시해 데이터센터 자체가 하나의 거대한 컴퓨터처럼 작동하도록 구현하는 데 기여할 것”이라고 말했다.