[뉴스] 디매트릭스, 추론 전용 랙 스쿼드론 공개

AI 추론 전용 칩을 만드는 스타트업 디매트릭스(d-Matrix)가 2026년 10월 12일 미국 산호세에서 열린 OCP 글로벌 서밋에서 멀티랙 추론 클러스터 "스쿼드론(Squadron)"을 공개했습니다. 같은 발표에서 기본 구성 요소인 코세어(Corsair) 서버와 랙 단위 제품 스쿼드랙(SquadRack)이 정식 공급에 들어갔고, 스쿼드론은 우선 고객 대상으로 출하를 시작한다고 밝혔습니다.

스쿼드론은 스쿼드랙을 최대 16개까지 묶어 코세어 XPU를 최대 1,024개까지 연결하는 메가와트급 구성입니다. 랙 사이는 제트스트림(JetStream) NIC로 연결하고 에이비에이터(Aviator) 소프트웨어 스택으로 운영합니다. 회사가 내세운 수치는 사용자 한 명 기준 초당 845토큰, 동시 사용자 64명일 때 총 초당 20,415토큰입니다. 공랭식에 표준 아키텍처를 썼다는 점도 강조했는데, 자사 애리조나 데이터센터에 이미 배포해 돌리고 있다고 합니다.

이 회사는 학습이 아니라 추론에 특화한 하드웨어를 내세웁니다. 코세어는 연산과 메모리를 한데 붙인 구조라 토큰 생성 지연을 줄이는 쪽에 초점을 맞췄고, 아리스타 브로드컴 슈퍼마이크로와 함께 표준 이더넷 기반으로 랙을 확장하도록 설계했습니다. 엔비디아 GPU 중심으로 짜인 지금의 추론 인프라에 표준 부품으로 접근하는 대안을 제시한 셈입니다.

운영 입장에서 눈여겨볼 지점은 추론 워크로드의 선택지가 늘고 있다는 것입니다. 공랭에 표준 이더넷으로 랙을 늘리는 방식이라, 액체냉각 전용 설비 없이 기존 데이터센터에 얹어볼 여지가 있어 보입니다. 다만 수치는 아직 제조사 발표 기준이라, 실제 서비스에 얹었을 때 토큰당 비용과 전력이 어떻게 나오는지는 벤치마크가 공개돼 봐야 판단할 수 있겠습니다.

🔗 https://www.d-matrix.ai/announcements/squadron-compute-clusters/

🔗 https://www.unite.ai/d-matrix-unveils-squadron-multi-rack-ai-inference-clusters/