[뉴스] AWS, 트레이니엄용 파이토치 백엔드 토치뉴런 공개

AWS가 10월 20일 자사 AI 칩 트레이니엄(Trainium)에서 파이토치를 네이티브로 돌릴 수 있는 백엔드 토치뉴런(TorchNeuron)을 공개했습니다. 아직 퍼블릭 베타 단계이고, Apache 2.0 라이선스로 소스가 공개돼 있습니다. 지원 하드웨어는 EC2 트레이니엄2(trn2)와 트레이니엄3(trn3) 인스턴스입니다.

핵심은 사용법입니다. 기존 파이토치 코드에서 텐서를 올릴 때 .to('neuron') 한 줄로 디바이스를 바꿔주면 트레이니엄에서 돌아간다는 것이 AWS 설명입니다. eager 실행과 torch.compile, 표준 파이토치 API를 그대로 쓰고, 허깅페이스 트랜스포머 v5, TorchTitan, vLLM 같은 라이브러리와 DDP, FSDP2, 텐서/파이프라인 병렬 같은 분산 API도 지원한다고 합니다. 커스텀 연산자는 뉴런 커널 인터페이스(NKI)와 연동해 직접 짜 넣을 수 있습니다.

자, 이게 왜 의미가 있냐면, 그동안 트레이니엄을 쓰려면 전용 SDK에 맞춰 코드를 손봐야 한다는 진입 장벽이 있었기 때문입니다. 엔비디아 GPU 환경에 익숙한 사람이 파이토치 코드를 거의 그대로 들고 와서 디바이스만 바꿔 실행해 볼 수 있다면, 칩을 갈아타 볼 유인이 커집니다. AWS가 자사 칩 생태계를 엔비디아 CUDA 쪽에서 끌어오려는 포석으로 보입니다.

초기 성능 수치도 함께 나왔습니다. 음성 인식 업체 딥그램(Deepgram)은 기존 GPU 대비 달러당 처리하는 입력 오디오 초가 약 60% 더 많았다고 밝혔습니다. 카르테시아(Cartesia)와 허깅페이스도 초기 결과를 공유했지만 구체적인 수치는 공개되지 않았습니다.

무작정 프로덕션에 올리진 마세요. 아직 퍼블릭 베타이고, 지원 인스턴스가 trn2/trn3로 한정돼 있어서 리전별 가용성과 쿼터부터 확인해야 합니다. 벤더가 내건 성능 수치는 특정 워크로드 기준이라 자기 모델로 직접 벤치마크해 보기 전에는 숫자를 그대로 믿지 않는 편이 안전합니다.

🔗 https://aws.amazon.com/about-aws/whats-new/2026/10/aws-announce-native-pytorch-support-trainium/

🔗 https://daily.dev/posts/introducing-torchneuron-native-pytorch-backend-for-aws-trainium-kdnpfsytl