AI Guardrails (AI 가드레일)는 AI 모델이나 에이전트가 정해진 정책과 허용 범위 안에서만 동작하도록, 입력과 출력, 행동을 검사하고 제한하는 통제 장치를 의미합니다. 유해하거나 부정확한 답변 생성, 민감정보 노출, 권한 밖 데이터 활용, 프롬프트 인젝션 같은 위험을 막기 위해 입력 단계의 필터링, 출력 단계의 검증과 마스킹, 에이전트의 도구 사용 제한 등 여러 계층에 적용됩니다. 생성형 AI가 실제 업무에 깊이 활용될수록 가드레일은 AI의 생산성을 유지하면서 보안과 컴플라이언스를 지키기 위한 핵심 요소가 됩니다.

AI Radar는 조직의 생성형 AI 사용 전반에 일관된 가드레일을 적용하는 파수 AI의 AI Security Platform입니다. 네트워크, 엔드포인트, API 레이어마다 따로 관리되던 AI 탐지·차단 정책을 하나의 콘솔에서 중앙 설정해 AI-R Bridge, AI-R Gateway, AI-R Endpoint 등 각 제품에 일괄 배포하며, 프롬프트와 첨부파일에 포함된 민감정보가 외부 AI로 전송되는 것을 차단합니다. 승인되지 않은 AI 사용이나 정책 위반이 발생하면 관리자에게 알림을 제공하고, 통합 로그와 대시보드를 통해 가드레일이 실제로 어떻게 작동하는지 확인하고 감사에 대응할 수 있습니다.