Observability
Filed under
2 posts
One Door to the Models, Parte 10: Osservabilità, Governance e i Numeri
Loggare i prompt rende il gateway un processore di ciò che gli utenti scrivono. La Parte 10 chiude la serie: trace, eval in produzione, governance e scorecard.
La tua bolletta LLM è un problema di osservabilità
Una bolletta Bedrock sorprendente non è un problema di prezzo, è di visibilità. Se non attribuisci i token a feature, tenant o agente, non puoi gestirla.