Semantic-Caching
Filed under
1 post
One Door to the Models, partie 6. Le semantic caching et ses modes de défaillance
Un cache sémantique met en jeu la justesse des réponses, pas seulement le coût. Partie 6 : score threshold, isolation par tenant, et le jour où Redis tombe.