Prompt Injection
Filed under
2 posts
Injeção de Prompt via Seus Próprios Documentos: A Superfície de Ataque do RAG
Sua base de conhecimento é entrada não confiável. A recuperação entrega texto de atacantes ao modelo, então o controle que compensa é escanear na ingestão.
Bedrock Guardrails Não Vai Te Salvar de Prompt Injection
Amazon Bedrock Guardrails filtra conteúdo, não autoriza ações. A defesa contra prompt injection é isolar input, allowlist de ferramentas e escopo de IAM.