# ai · 7개
로컬 임베딩 API로 RAG 검색 붙이기
RAG 파이프라인을 짜다 보면 가장 먼저 걸리는 게 임베딩 비용이다. 문서 수십만 건을 한 번 색인하고 끝이면 모르겠는데, 게시판처럼 글이 계속 쌓이는 서비스는 임베딩 호출이 끊기지 않는다. 사내 …
MCP 서버에 OAuth 2.1 붙이기
로컬에서 stdio로 돌리던 MCP 서버를 사내망 밖으로 꺼내 HTTP로 열려고 하면 제일 먼저 막히는 게 인증이다. stdio는 프로세스를 띄운 쪽이 이미 신뢰 경계 안에 있으니 환경변수로 토큰만…
쿠버네티스 GPU를 DRA로 할당하기
GPU 노드를 쿠버네티스에 붙여본 사람이면 nvidia.com/gpu: 1 한 줄로 파드에 GPU를 꽂던 디바이스 플러그인 방식에 익숙할 것이다. 몇 년을 그렇게 썼는데, 1.34에서 DRA가 정식…
Open WebUI로 사내 자체 호스팅 ChatGPT 만들기
사내에서 외부 ChatGPT 사용을 막아둔 곳이 늘고 있다. 계약서나 소스 코드를 붙여넣는 순간 데이터가 밖으로 나가니 보안팀 입장에선 당연한 조치다. 그래서 요즘 "우리 망 안에서만 도는 챗봇을 …
AWS Bedrock 서비스 활용사례
AWS Bedrock을 어떻게 바라볼 것인가 AWS Bedrock 을 이해하는 가장 좋은 방법은 이를 “AI 모델을 제공하는 서비스”가 아니라 생성형 AI를 실제 업무 시스템 안으로 끌어들이기 위한…
에이전틱 AI란 무엇인가?
에이전틱 AI (Agentic AI)에 대한 개요 에이전틱 AI는 사용자의 명시적 지시 없이도 자율적으로 판단하고 행동할 수 있는 인공지능 시스템을 의미한다. 이는 전통적인 대화형 AI와 구별되는 …
MPC란 무엇인가?
MPC(Multi-Party Computation, 다자간 연산)는 데이터 보안과 프라이버시 보호가 요구되는 현대 디지털 환경에서 급속도로 주목받고 있는 암호 기술이다. 특히, 신뢰할 수 없는 환경…