Memory Poisoning (메모리 포이즈닝)은 AI 에이전트가 참조하는 대화 이력, 장기 메모리, RAG 지식 저장소, 벡터 데이터베이스 등에 악의적인 정보나 숨겨진 명령을 심어, 이후의 판단과 행동을 조작하는 공격 기법을 의미합니다. OWASP는 2026년 발표한 에이전틱 애플리케이션 10대 보안 위협에 메모리·컨텍스트 포이즈닝 (Memory & Context Poisoning)을 포함했습니다. 하나의 세션 안에서 끝나는 프롬프트 인젝션과 달리, 메모리 포이즈닝은 오염된 정보가 저장된 채 남아 며칠 또는 몇 주 뒤의 다른 세션에서도 영향을 미칠 수 있다는 점에서 탐지가 더 어렵습니다. 외부 문서 업로드, 연동된 데이터 소스, 에이전트가 스스로 요약해 저장하는 내용 등이 모두 오염 경로가 될 수 있어, 지식 저장소에 어떤 데이터가 어떤 출처로 들어가는지 관리하는 것이 중요합니다.

메모리 포이즈닝의 위험을 줄이려면 AI가 참조하는 지식 저장소를 처음부터 신뢰할 수 있는 데이터로 구성하고, 답변 단계에서도 권한과 정책에 따른 통제를 적용해야 합니다. 파수 AI의 Secure RAG를 위한 Vector DB 구축 솔루션은 중복·불필요·오래된 ROT 데이터를 식별해 제거한 뒤 최신 핵심 데이터만 벡터화하고, 문서별 ACL 권한과 예외 정책을 반영해 검색 단계에서부터 민감정보 노출을 차단합니다. 또한 AI Agent Platform인 Ellm은 기존 보안 솔루션의 세부 접근 제어 정책과 메타데이터를 AI Agent와 연동해, 에이전트가 사용자 권한 범위 안에서 데이터를 활용하도록 지원합니다.