AI, LLMs, and applied ML.
Notes de terrain d'un ingénieur senior sur l'IA, les LLMs, les agents et l'apprentissage automatique appliqué par Ercan Ermis.
All posts
Step Functions, l'orchestrateur d'agents le plus sous-estimé
La plupart des workflows d'agents n'ont pas besoin qu'un modèle décide du flux de contrôle. Step Functions offre orchestration déterministe et retries.
Passerelles LLM : pourquoi chaque équipe plateforme finit par en construire une
Une deuxième équipe qui appelle un modèle crée un fan-out non gouverné. Une passerelle LLM centralise auth, quota, routage et audit d'un seul endroit.
AWS Mensuel (avr. 26) : OpenAI débarque sur Bedrock
Avril 2026 sur AWS : modèles OpenAI, Codex et Managed Agents arrivent sur Bedrock, AgentCore ajoute un harness géré et une CLI pour raccourcir le chemin agent.
Inférence inter-régions : résilience bon marché ou piège de résidence des données ?
L'inférence inter-régions Bedrock lisse le débit et le throttling. Un profil global peut router le prompt hors géographie. Vérifiez la résidence des données.
Votre facture LLM est un problème d'observabilité
Une facture Bedrock surprenante n'est pas un problème de tarification, c'est un problème de visibilité. Sans attribuer les tokens, impossible de la gérer.
L'inférence par lots sur Bedrock : demi-tarif si vous pouvez attendre
L'inférence par lots Amazon Bedrock tourne à 50 % du tarif à la demande. Le seul coût est la latence, gratuite pour tout job sans personne qui attend.
Applications LLM multi-tenant : isoler les clients sur un modèle partagé
Un modèle Bedrock partagé, plusieurs clients. Le modèle est sans état, l'isolation est votre travail : scoper la récupération, plafonner le quota par tenant.
La mémoire d'agent est un problème de base de données, pas un problème de prompt
Coller l'historique d'un agent dans le prompt n'est pas de la mémoire, c'est une facture croissante. La vraie mémoire : une base de données avec récupération.
La sortie structurée bat le parsing astucieux
Vous parsez encore du JSON dans du texte modèle avec des regex ? Les sorties structurées Bedrock imposent un JSON Schema : réponse valide par construction.
Le Prompt Caching sur Bedrock : la remise de 90 % que la plupart des équipes ignorent
Le prompt caching Bedrock lit un préfixe répété à 90 % de réduction, mais une écriture en cache coûte plus cher qu'un appel sans cache. Le breakpoint décide.
Plus d'Ercan
Deux autres sites, même auteur, terrain différent.
Cloud, AWS, EKS, Terraform, plateforme.
Notes de terrain de systèmes de production. EKS, IAM, Terraform à l'échelle organisation, observabilité, optimisation des coûts.
Visiter ercan.cloud →Le hub. À propos, conseil, contact.
Hub personnel pour les deux pistes d'écriture. Qui je suis, comment fonctionne le conseil, comment me joindre.
Visiter ercanermis.com →