Prompt Injection (프롬프트 인젝션)은 악의적으로 조작된 입력을 AI 모델에 전달해, 개발자나 운영자가 설정한 지시와 보안 정책을 무력화하고 의도하지 않은 응답이나 행동을 유도하는 공격 기법을 의미합니다. 탈옥 (Jailbreaking)이 주로 모델의 안전장치를 우회해 금지된 답변을 끌어내는 데 초점을 둔다면, 프롬프트 인젝션은 AI가 처리하는 입력 자체에 명령을 끼워 넣어 AI의 동작을 가로챈다는 점에서 차이가 있습니다. 사용자가 직접 악성 명령을 입력하는 방식뿐 아니라 AI가 참조하는 웹 페이지, 문서, 이메일 등에 명령을 숨겨두는 간접 프롬프트 인젝션도 주요 위협으로 꼽히며, AI 에이전트가 사내 데이터와 도구에 접근하는 환경에서는 민감정보 유출이나 권한 밖 작업 실행으로 이어질 수 있습니다.

프롬프트 인젝션의 피해를 줄이려면 입력 검증과 함께, AI가 접근하고 출력할 수 있는 데이터의 범위를 제한하는 다층적인 통제가 필요합니다. 파수 AI의 AI-R DHC는 학습 단계에서 부여된 메타데이터와 사용자 권한 정책을 기반으로 권한 범위를 벗어난 정보가 AI 답변에 포함되지 않도록 제한하고, 답변 속 민감정보를 정책에 따라 차단·마스킹합니다. 여기에 생성형 AI로 전송되는 데이터에서 민감정보를 식별해 차단하는 AI-R DLP를 함께 적용하면 AI 입력부터 출력까지 데이터 보호 체계를 갖출 수 있습니다.