LLM Gateway (LLM 게이트웨이)는 조직 내 애플리케이션과 사용자가 대형 언어 모델 (LLM) API를 호출할 때, 모든 요청과 응답이 하나의 관문을 거치도록 해 사용 현황을 관리하고 보안 정책을 적용하는 중계 계층을 의미합니다. 부서와 시스템마다 LLM API 키를 개별적으로 발급받아 사용하면 키 노출, 민감정보 전송, 예상치 못한 비용 증가를 통제하기 어렵고, 누가 어떤 모델을 얼마나 사용하는지 파악하기도 어렵습니다. LLM 게이트웨이는 인증, 접근 제어, 데이터 검사, 사용량·비용 관리, 로그 기록을 중앙에서 수행해 API 기반 AI 활용의 거버넌스를 확보합니다.

AI-R Gateway는 파수 AI의 LLM API 보안 및 관리 제품으로, 실제 API 키를 노출하지 않고 부서·프로젝트별 가상 키를 발급해 LLM API 사용을 중앙에서 관리합니다. LLM으로 전송되는 데이터와 응답 데이터를 함께 검사해 조직의 보안·컴플라이언스 기준에 따라 차단하거나 경고하며, 가상 키별 예산 한도를 설정해 한도를 초과하면 자동으로 사용을 차단합니다. 부서별·모델별 API 호출량과 비용을 실시간으로 확인할 수 있어, 각 시스템이 기존 방식대로 API를 호출하면서도 AI 거버넌스를 확보할 수 있습니다.