[뉴스] SKT 엔비디아 리벨리온, GPU NPU 결합 소버린AI 구축
SK텔레콤이 11월 9일 서울 코엑스에서 열린 엔비디아 AI 데이 서울 2026 행사에서 엔비디아, 리벨리온과 GPU, NPU 통합 시스템 개발을 위한 업무협약을 맺었습니다. 엔비디아의 데이터센터 인프라 기술에 국산 NPU를 묶어 SK텔레콤 AI 데이터센터에서 돌리는 것이 골자입니다. NPU는 신경망 추론에 특화한 전용 반도체로, 범용 연산을 맡는 GPU와 역할이 다릅니다.
구성은 엔비디아의 NVLink Fusion 기술로 리벨리온이 개발 중인 NPU 'Rebel R200'을 엔비디아 플랫폼에 연결하고, 엔비디아의 서버 랙 표준 설계 규격인 MGX를 적용하는 방식입니다. NVLink Fusion은 엔비디아 외부 가속기를 자사 인터커넥트에 붙일 수 있게 열어 둔 규격으로, 이걸 통해 타사 NPU가 엔비디아 랙 안에 들어가게 됩니다.
추론 처리를 두 단계로 쪼개 칩을 나눠 맡긴 점이 눈에 띕니다. 입력된 질문과 문서를 한 번에 읽어 들이는 프리필(prefill) 단계는 엔비디아 GPU가, 토큰을 하나씩 순차 생성하는 디코드(decode) 단계는 리벨리온 NPU가 담당합니다. 프리필은 연산량이 몰리고 디코드는 메모리 대역폭에 묶이는 특성이 달라서, 단계별로 다른 칩에 태우면 처리 속도와 전력 효율을 같이 챙길 수 있다는 계산입니다.
SK텔레콤은 이 인프라를 자체 AI 모델 'A.X K2'와 '모두의 AI' 같은 대국민 서비스에 연결해 인프라부터 모델, 서비스까지 묶는 풀스택 소버린 AI로 끌고 가겠다고 밝혔습니다. 다만 이번 발표는 업무협약 단계라 데이터센터 적용 일정이나 성능 수치는 공개되지 않았습니다. 국산 NPU를 엔비디아 랙에 실제로 얹었을 때 나오는 처리량과 전력 수치는 실증 결과를 봐야 판단할 수 있을 것으로 보입니다.
로그인 후 답글을 남길 수 있습니다.