Data Poisoning (데이터 포이즈닝)은 AI 모델의 학습이나 추가 학습에 사용되는 데이터에 조작된 데이터를 섞어 넣어, 모델이 잘못된 결과를 내거나 공격자가 의도한 방식으로 동작하도록 만드는 공격 기법을 의미합니다. 특정 조건에서만 오작동하도록 숨겨진 트리거를 심는 백도어 방식, 데이터의 레이블을 바꿔 판단 기준을 흐리는 방식 등이 있으며, 오염이 학습 과정에서 모델 내부에 반영되기 때문에 배포 이후에는 원인을 찾아 바로잡기가 어렵습니다. 기업이 자체 데이터로 도메인 특화 모델을 학습시키는 사례가 늘면서, 학습 데이터의 출처와 품질을 관리하는 일은 AI 보안과 신뢰성 확보의 출발점이 되고 있습니다.

데이터 포이즈닝을 예방하는 기본은 AI가 학습하고 참조하는 데이터를 사전에 선별하고 지속적으로 관리하는 것입니다. 파수 AI의 Domain Knowledge ACE는 세분화된 업무 단위를 대상으로 학습하는 도메인 지식 AI 에이전트로, 큐레이션·업데이트·ACL 반영 체계를 통해 항상 신뢰성 있고 안전한 지식을 제공합니다. 또한 Secure RAG를 위한 Vector DB 구축 솔루션은 ROT 데이터를 식별·제거하고 최신화된 핵심 데이터만 벡터화해, AI가 참조하는 지식의 정확도와 신뢰도를 높입니다.