Prompt Injection
Filed under
2 posts
Prompt Injection Μέσω των Δικών σου Εγγράφων: Η Επιφάνεια Επίθεσης του RAG
Η βάση γνώσης σου είναι μη έμπιστη είσοδος. Η ανάκτηση δίνει στο μοντέλο κείμενο του επιτιθέμενου, οπότε ο έλεγχος που αποδίδει είναι η σάρωση στην πρόσληψη.
Τα Bedrock Guardrails Δεν Θα Σε Σώσουν Από το Prompt Injection
Τα Bedrock Guardrails φιλτράρουν περιεχόμενο, όχι ενέργειες. Η άμυνα στο prompt injection είναι απομόνωση εισόδου, allowlist εργαλείων και IAM scoping.