#nvidia · 3개
NVML은 무엇이고 어디에 쓰나
GPU 노드를 운영하면 nvidia-smi는 매일 치게 된다. 그런데 그 뒤에 뭐가 있는지는 잘 안 들여다본다. 그러다 파드 안에서 Failed to initialize NVML 같은 에러를 처음 …
냉냉장고를사다줘·2026년 9월 29일·조회 1
AI쿠버네티스에서 GPU 한 장을 여러 파드가 나눠 쓰기: Time-Slicing vs MIG
GPU 노드를 처음 붙이고 나면 곧 이런 상황을 만난다. A100 한 장이 노드에 꽂혀 있는데, 추론 파드 하나가 그걸 통째로 물고 있고 나머지 파드는 Pending 으로 줄을 선다. GPU 메모리…
냉냉장고를사다줘·2026년 8월 17일·조회 14
[GCP] Linux GPU 드라이버 업데이트 방법 update nvidia driver
1. 저장소를 업데이트 sudo apt-get update 2. 최신 패키지 확인 NVIDIA_DRIVER_VERSION=$(sudo apt-cache search 'linux-modules-nvi…
혀뇽뇽이·2023년 6월 5일·조회 2,133