Prompt Caching

Prompt Caching στο Bedrock: Η Έκπτωση 90% που οι Περισσότερες Ομάδες Αγνοούν

Το prompt caching στο Bedrock διαβάζει πρόθεμα με περίπου 90% έκπτωση, αλλά η εγγραφή στην cache κοστίζει περισσότερο. Το breakpoint αποφασίζει τι θα πάρεις.