#gpu · 2개
GPU EC2에 Ollama + Open WebUI로 사내 로컬 LLM API 서버 구축하기 (OpenAI 호환 엔드포인트)
요약부터 말씀드릴게요. Ollama 를 GPU 서버에 설치하면 그 자체로 11434 포트에 OpenAI 호환 API( /v1/chat/completions )가 열립니다. 여기에 Open WebUI…
냉냉장고를사다줘·2026년 6월 23일·조회 5
[GCP] Linux GPU 드라이버 업데이트 방법 update nvidia driver
1. 저장소를 업데이트 sudo apt-get update 2. 최신 패키지 확인 NVIDIA_DRIVER_VERSION=$(sudo apt-cache search 'linux-modules-nvi…
혀뇽뇽이·2023년 6월 5일·조회 2,127