Prompt Injection
Filed under
2 posts
Injection de prompt via vos propres documents : la surface d'attaque du RAG
Votre base de connaissances est une entrée non fiable. Le retrieval transmet au modèle du texte écrit par l'attaquant, d'où l'intérêt de scanner à l'ingestion.
Bedrock Guardrails ne vous protégera pas de l'injection de prompt
Amazon Bedrock Guardrails filtre le contenu, pas les actions. La défense contre l'injection de prompt : isolation des entrées, allowlists d'outils, scoping IAM.