[뉴스] 스노우플레이크 코텍스 AI 게이트웨이 정식 출시
스노우플레이크(Snowflake)가 11월 3일 코텍스 AI 게이트웨이(Cortex AI Gateway)의 추론, 관측, 비용 관리 기능을 정식(GA)으로 전환했습니다. 조직 안의 여러 AI 클라이언트가 제각각 외부 모델 API로 직접 나가는 대신, 거버넌스가 걸린 단일 엔드포인트 하나로 모델에 접근하도록 묶는 게 골자입니다. 요청마다 추적 기록이 남고 호출한 사용자별로 비용이 집계됩니다.
추론 쪽은 기존 코드를 크게 손대지 않아도 되게 설계됐습니다. 게이트웨이 엔드포인트가 OpenAI Chat Completions 형식과 Anthropic Messages 형식을 그대로 받아들여서, 공식 SDK나 코딩 에이전트에서 바라보는 주소만 바꿔주면 됩니다. 접근은 Snowsight의 AI Gateway 메뉴에서 설정합니다.
운영하는 쪽에서 반길 부분은 관측 기능입니다. 요청별 span이 AGENT_TRACE_TABLE에 쌓여서 어떤 모델을 호출했는지, 응답 시간과 토큰 수, 오류를 쿼리로 확인할 수 있습니다. 클라이언트 애플리케이션에서 보낸 OpenTelemetry 트레이스를 내보내는 것도 지원합니다. 그동안 AI 호출이 블랙박스처럼 흩어져 있어 비용과 지연이 어디서 튀는지 짚기 어려웠는데, 이 테이블을 거치면 호출 단위로 되짚을 수 있게 됩니다.
비용 관리는 AI_GATEWAY_USAGE_HISTORY 뷰로 지출을 집계하고, 팀 단위 공유 예산과 사용자별 쿼터를 걸 수 있습니다. 특정 팀이나 계정이 토큰을 과도하게 쓰는 상황을 엔드포인트 단에서 제한하는 셈이라, 모델 호출이 늘어나는 조직이라면 한 번 들여다볼 만합니다.
아직 전부 GA는 아닙니다. MCP(Model Context Protocol)로 AI 클라이언트를 사내 도구에 연결하는 Tools for Cortex AI Gateway는 프리뷰 단계이고, 모델 사용량과 요청 실패, 지연, MCP 도구 호출, 대화 길이를 차트로 보여주는 트레이스 애널리틱스 대시보드도 프리뷰입니다. 도입을 검토한다면 정식과 프리뷰 기능을 구분해서 확인할 필요가 있어 보입니다.
🔗 https://docs.snowflake.com/en/release-notes/2026/other/2026-11-03-cortex-ai-gateway-ga
로그인 후 답글을 남길 수 있습니다.