AI, LLMs, and applied ML.
Notes de terrain d'un ingénieur senior sur l'IA, les LLMs, les agents et l'apprentissage automatique appliqué par Ercan Ermis.
All posts
Choisir sa base vectorielle selon ce qui casse en premier
Presque tout système RAG devrait démarrer sur pgvector. La question n'est pas la base vectorielle la plus rapide, mais la panne qui vous atteint en premier.
One Door to the Models, partie 10. Observabilité, gouvernance et les chiffres
Logger les prompts fait de la gateway un processeur de tout ce que tapent les utilisateurs. Partie 10 : traces, evals en production, gouvernance et bilan.
One Door to the Models, partie 9. Des eval gates et le retrait des modèles
Une approval qui expire marque le stage skipped, pas failed. Partie 9 : l'eval devient un vrai gate et le retrait d'un modèle une simple requête.
One Door to the Models, partie 8. L'orchestration au-dessus de la gateway
Un framework d'orchestration qui refait retry et routage concurrence la gateway. Partie 8 : framework mince, tools sous la même identité que les modèles.
One Door to the Models, partie 7. Azure AI Search ou une base vectorielle
Azure AI Search facture par SKU, pas par vecteur, et le vector index est plafonné par la mémoire du tier. Partie 7 : le retrieval se décide sur les limites.
One Door to the Models, partie 6. Le semantic caching et ses modes de défaillance
Un cache sémantique met en jeu la justesse des réponses, pas seulement le coût. Partie 6 : score threshold, isolation par tenant, et le jour où Redis tombe.
One Door to the Models, partie 5. Identité, quota et chargeback
Cinq dimensions de métrique custom, et les time series se multiplient. Partie 5 : identité par tenant, quota et un chargeback qui survit à la cardinalité.
One Door to the Models, partie 4. Le travail asynchrone hors du chemin de requête
Le batch est une seconde porte : un fichier entre, un job tourne, un fichier sort, aucune politique de gateway au milieu. Partie 4 garde les comptes honnêtes.
One Door to the Models, partie 3. L'abstraction de provider et le streaming
Avec stream: true, le comptage de tokens devient une estimation. En WebSocket, le load balancing disparaît. Partie 3 : les garanties par transport.
Auth MCP en entreprise : les agents obtiennent enfin des comptes de service
SEP-1046 donne aux agents sans supervision un vrai flux OAuth sur MCP : client_credentials et private_key_jwt. Ce que cela corrige, ce qui reste ouvert.
Plus d'Ercan
Deux autres sites, même auteur, terrain différent.
Cloud, AWS, EKS, Terraform, plateforme.
Notes de terrain de systèmes de production. EKS, IAM, Terraform à l'échelle organisation, observabilité, optimisation des coûts.
Visiter ercan.cloud →Le hub. À propos, conseil, contact.
Hub personnel pour les deux pistes d'écriture. Qui je suis, comment fonctionne le conseil, comment me joindre.
Visiter ercanermis.com →