[뉴스] AWS 세이지메이커, GPU 관리 없는 학습 API 공개

AWS가 2026년 10월 22일 세이지메이커 AI(SageMaker AI)에 서버리스 모델 커스터마이징을 위한 training session API를 정식 출시했습니다. 핵심은 "자기 학습 루프를 직접 짜되 GPU 인프라는 신경 쓰지 않는다"입니다. 개발자가 GPU 클러스터를 프로비저닝하거나 운영하지 않아도 되고, 모델과 LoRA 로딩, 분산 실행, 장애 복구, 체크포인트 저장은 세이지메이커가 맡습니다.

동작 방식은 라이브 세션에 대한 API 호출입니다. 파이썬 코드에서 forward_backward(), optim_step(), sample() 같은 연산을 직접 호출해 학습 절차를 조립합니다. SDK는 세션 생성과 플랫폼 설정을 다루는 ServiceClient, GPU 연산을 담당하는 TrainingClient(forward, forward_backward, optim_step, save_weights_for_sampler), 생성과 스코어링을 맡는 SamplingClient(sample, compute_logprobs)로 나뉩니다. 알고리즘을 직접 제어하고 싶은 경우에 맞춘 구성으로 보입니다.

직접 짜는 게 부담스러우면 관리형 기법을 쓰면 됩니다. SFT(지도 미세조정), DPO(직접 선호 최적화), GRPO를 포함한 강화학습 방식이 제공되어 기법과 모델만 고르면 세이지메이커가 학습을 돌립니다. 지원 모델에는 gpt-oss-20b 같은 오픈웨이트 모델이 포함됩니다.

과금은 처리한 토큰 단위입니다. 보상 스코어링처럼 로컬에서 도는 연산은 GPU 시간으로 청구되지 않는다고 AWS는 설명합니다. 커스텀 리워드 함수나 다중 턴 강화학습처럼 자체 로직이 섞이는 작업에서 비용 예측에 도움이 될 부분으로 보입니다.

정식 제공 리전은 미국 동부(버지니아 북부), 미국 서부(오레곤), 아시아 태평양(뭄바이)입니다. 시작은 SageMaker Python SDK를 설치하고 쿡북 레시피를 받거나, SageMaker Studio에서 노트북을 띄워 코딩 에이전트를 붙이는 식입니다. 서울 리전은 아직 포함되지 않았으니 연동 전에 리전부터 확인하는 게 좋겠습니다.

🔗 https://aws.amazon.com/about-aws/whats-new/2026/10/training-session-apis-on-sagemaker-ai/

🔗 https://aws.amazon.com/blogs/machine-learning/write-your-own-training-loop-without-managing-gpus-with-amazon-sagemaker-training-sessions/