Observability
Filed under
2 posts
One Door to the Models, partie 10. Observabilité, gouvernance et les chiffres
Logger les prompts fait de la gateway un processeur de tout ce que tapent les utilisateurs. Partie 10 : traces, evals en production, gouvernance et bilan.
Votre facture LLM est un problème d'observabilité
Une facture Bedrock surprenante n'est pas un problème de tarification, c'est un problème de visibilité. Sans attribuer les tokens, impossible de la gérer.