LLM Gateway란?

LLM 게이트웨이(LLM Gateway)는 엔터프라이즈 환경에서 직원·애플리케이션이 대규모 언어 모델을 안전하게 사용하도록 중계하는 프록시·관리 계층입니다. 프롬프트·응답 내 민감 정보 마스킹, 접근 통제, 사용량 관리, 감사 로그, 모델 라우팅, 비용 제어를 제공하며, Shadow AI 문제와 규정 준수 리스크를 해결하는 핵심 인프라입니다.