ercan.ai

Agents on Call, partie 8. Production : observabilité, évals, et le jour où elle ment

Thu, 16 Jul 2026 09:00:00 +0200

Trois mois après la mise en service de l'agent de triage d'incidents de la Partie 3, il a produit un diagnostic assuré, bien écrit et faux pour un incident réel, et personne ne l'a attrapé avant le postmortem, parce que la trace qui l'aurait attrapé en temps réel n'existait pas encore. C'est la forme de chaque défaillance dont cette partie finale traite réellement : pas un crash, pas une exception, une phrase plausible qui se trouvait être fausse. Ce billet clôt la série en construisant les trois choses qui transforment « l'agent l'a dit » en quelque chose qu'un humain peut vérifier, observe le jour précis où il a menti, et note la plateforme entière contre les chiffres que la Partie 1 avait promis.

Kiro après la hype : ce que les IDE IA ont vraiment changé

Wed, 15 Jul 2026 17:00:00 +0200

Huit mois après que Kiro a atteint la disponibilité générale, l'idée durable s'avère être la spec, et la partie la moins durable s'avère être l'IDE. Kiro s'est lancé comme un IDE agentique dont le pari était de travailler au niveau de la spécification et de laisser l'agent implémenter. Ce qui a tenu, c'est l'artefact : une déclaration écrite d'intention qu'un humain relit avant que le code n'existe. Ce qui a discrètement perdu, c'est l'hypothèse selon laquelle l'éditeur est l'endroit où ça se passe. Kiro a livré une CLI à la GA, ajouté un mode headless, et c'est le terminal où l'usage intéressant s'est déplacé.

Pourquoi votre pilote IA est mort dans les achats

Mon, 13 Jul 2026 19:00:00 +0200

Le pilote a fonctionné. Ça n'a jamais été la question. La démo a marché, la précision était défendable, les utilisateurs ont aimé, et puis il a passé cinq mois dans une file d'attente et a discrètement cessé d'être mentionné. Personne ne l'a tué. Il a expiré. Si vous avez vu ça se produire deux fois, vous avez probablement conclu que l'organisation est cassée, et je veux défendre une explication moins satisfaisante : le pilote a été cadré pour répondre à une question sur laquelle personne n'était bloqué.

Suivi des coûts Bedrock par application avec les profils d'inférence

Fri, 10 Jul 2026 14:00:00 +0200

Un profil d'inférence applicatif est un wrapper taggé autour d'un ARN de modèle, et c'est la seule chose qui se dresse entre vous et une facture Bedrock affichant un seul chiffre pour toute l'entreprise. Vous créez un profil qui pointe vers un modèle, vous attachez des tags d'allocation de coûts, et vous invoquez l'ARN du profil au lieu de l'ID du modèle. Les tags remontent jusqu'à Cost Explorer et au Cost and Usage Report. C'est tout le mécanisme, et ça prend un après-midi.

Agents on Call, partie 7. Dimensionnement : le calcul de tokens que personne ne fait en amont

Thu, 09 Jul 2026 09:00:00 +0200

Une seule investigation d'incident profonde sur cette plateforme, huit tours d'appels d'outils avant que l'agent de triage ait assez de preuves pour proposer un diagnostic, coûte 32 950 tokens, dont 31 600 en entrée, parce que l'API Converse de Bedrock renvoie l'intégralité de la transcription grandissante à chaque tour. Multipliez cela par un volume d'alarmes réel et la facture mensuelle complète de modèles à la demande de la plateforme ressort à environ 14 $, un des plus petits postes d'un coût mensuel total proche de 21 $. Acheter du Provisioned Throughput dès le premier jour, la chose que la Partie 1 a explicitement différée, aurait coûté 15 768 $ par mois pour une charge tournant à environ un quatre-centième de l'utilisation nécessaire pour atteindre la rentabilité. Rien de tout cela n'est évident sur un diagramme. Cela n'apparaît qu'une fois que quelqu'un fait l'arithmétique, ce que fait cette partie, de bout en bout, chaque nombre traçable soit vers une grille tarifaire Bedrock soit vers une formule montrée en entier.

AI Act européen, le 2 août : l'échéance qui n'a pas bougé

Wed, 08 Jul 2026 11:00:00 +0200

L'Omnibus numérique sur l'IA a déplacé les échéances qui ont fait les gros titres et laissé intacte celle qui va réellement affecter ce que vous construisez. Les obligations à haut risque ont glissé de plus d'un an. La transparence de l'Article 50 n'a pas glissé. Elle s'applique à partir du 2 août 2026, soit dans environ trois semaines, et c'est la disposition qui attrape les équipes ordinaires faisant des choses ordinaires : générer du texte, des images ou de l'audio avec un modèle et mettre le résultat devant une personne.

SageMaker vs Bedrock : une décision d'organisation, pas technique

Mon, 06 Jul 2026 09:00:00 +0200

SageMaker contre Bedrock n'est pas une comparaison technique. C'est une question sur le fait de savoir si votre organisation emploie des gens dont le métier est de posséder des modèles. Si vous avez une équipe qui entraîne, évalue, et prend l'astreinte pour un artefact de modèle, SageMaker décrit un travail qu'elle fait déjà. Si vous n'avez pas cette équipe, et la plupart des entreprises qui livrent des fonctionnalités IA ne l'ont pas, Bedrock n'est pas un compromis. C'est une lecture correcte de votre organigramme.

Injection de prompt via vos propres documents : la surface d'attaque du RAG

Sat, 04 Jul 2026 10:00:00 +0200

Dès que vous placez du retrieval devant un modèle, chaque document de votre base de connaissances devient une entrée exécutable. Pas exécutable au sens shell du terme. Exécutable au sens où un paragraphe posé dans une page Confluence peut changer ce que fait votre agent, parce que le retrieval va le récupérer, le coller dans la fenêtre de contexte, et le modèle le lira avec la même attention qu'il accorde à votre system prompt. Les équipes modélisent soigneusement les menaces sur la boîte de message de l'utilisateur, puis ingèrent 40 000 pages venues de six systèmes sans jamais demander qui peut y écrire.

M365 Security 101 : AI Pilot et Business Impact Reports

Fri, 03 Jul 2026 13:30:00 +0200

Les équipes sécurité n'ont pas un problème de détection. Elles ont un problème de remédiation et un problème de communication, et ce sont les deux endroits où l'IA en sécurité rentabilise réellement son coût. Un scanner moderne vous livrera volontiers 800 constats face à un référentiel de conformité. Les constats ne sont pas la partie difficile. La partie difficile, c'est que la plupart ne sont jamais corrigés, et que ceux qui le sont restent invisibles pour les personnes qui approuvent le budget. Ce billet est un 101 sur les deux fonctionnalités IA qui, à mon sens, s'attaquent directement à cela : la remédiation automatisée avec une validation humaine, et le reporting généré par IA pour des lecteurs non techniques. J'utiliserai Aether365, une plateforme de sécurité Microsoft 365, comme exemple tout au long du texte. Transparence totale d'entrée de jeu : Aether365 est mon produit. Jugez les arguments sur le fond.

Agents on Call, partie 6. Guardrails : la partie que tout le monde saute

Thu, 02 Jul 2026 09:00:00 +0200

Un Bedrock Guardrail attaché à chaque invocation d'agent attrape trois choses qu'IAM ne peut pas voir du tout : une instruction injectée par prompt cachée dans une ligne de log, les PII d'un client arrivant dans un résultat d'outil avant que le modèle ne le résume, et le propre texte d'un agent poussant un humain à contourner la porte d'approbation. Rien de tout cela n'est un problème de contrôle d'accès, donc rien n'apparaît dans une politique IAM, aussi soigneusement que les Parties 2 à 4 en aient scopé une. Cette partie construit ce guardrail en Terraform, dans terraform/30-guardrails/, et passe plus de temps sur ce qu'il n'attrape pas que sur les morceaux qui brillent en démo, parce que l'écart entre les deux est exactement l'endroit où un incident part de travers.

Faites confiance au modèle, auditez le binaire

Thu, 02 Jul 2026 03:30:00 +0200

Le binaire client d'un agent de code est le logiciel le plus privilégié de votre machine, et presque personne ne l'audite. Il lit votre repo, exécute votre shell, détient vos credentials et se met à jour automatiquement selon un calendrier que vous ne contrôlez pas. Nous avons collectivement décidé de traiter ce binaire comme de la plomberie sans intérêt pendant que nous débattons de l'alignement des modèles. La semaine dernière, Claude Code a démontré pourquoi c'est exactement l'inverse qu'il fallait faire : pendant environ trois mois, il a embarqué une logique cachée qui classifiait les requêtes passant par des proxys liés à la Chine et encodait le résultat de façon stéganographique dans son propre system prompt. Personne ne l'a remarqué jusqu'à ce qu'un développeur décompile le binaire.

AWS Monthly (juin 26) : les agents obtiennent une boucle de rétroaction

Tue, 30 Jun 2026 18:00:00 +0200

Juin 2026 a été le mois où AWS a cessé de livrer des capacités d'agents pour se mettre à livrer la boucle qui les améliore. Le Summit de New York, le 17 juin, en était le centre : AgentCore a gagné des capacités d'optimisation qui lisent les traces de production et vous disent ce que vos agents font mal, Web Search est passé en disponibilité générale, le harnais managé a atteint la disponibilité générale le lendemain, et AWS Continuum est arrivé comme un service de sécurité natif IA qui gagne la permission d'agir plutôt que de la présumer. Par ailleurs ce mois-ci, Anthropic a lancé puis perdu Claude Fable 5 suite à une directive d'exportation, ce qui a appris à tous ceux qui construisent sur un modèle frontière quelque chose d'inconfortable sur les chaînes d'approvisionnement.

Agents on Call, partie 5. L'équipe : superviseur et trois spécialistes

Thu, 25 Jun 2026 09:00:00 +0200

Quatre agents existent désormais là où la Partie 4 en laissait un seul : un superviseur, un agent runbook et un agent de coûts rejoignent incident-triage, coordonnés non par des appels de fonctions Python au sein d'un même processus mais par la propre API InvokeAgentRuntime d'AgentCore Runtime, car les quatre se déploient toujours comme des ressources Runtime séparées et isolées, la même isolation pour laquelle la Partie 3 avait choisi AgentCore Runtime au départ. Une ressource AWS de plus les relie : une unique instance AgentCore Memory, partagée entre les quatre par actor ID, si bien qu'un diagnostic que le triage écrit à 3 heures du matin reste lisible pour l'agent runbook auquel il passe la main quelques secondes plus tard, et pour n'importe quel agent qui regardera un incident de la même forme le mois prochain.

AWS a construit un sandbox pour le code généré par IA : les MicroVMs Lambda

Tue, 23 Jun 2026 02:00:00 +0200

Les MicroVMs AWS Lambda sont une nouvelle primitive serverless conçue, selon la propre formulation d'AWS, pour exécuter du code généré par les utilisateurs ou par l'IA dans des environnements isolés et persistants. Ce sont ces derniers mots qu'il faut remarquer. Le lancement ne porte pas vraiment sur les fonctions. Il s'agit de donner à un agent IA un endroit sûr pour exécuter le code qu'il vient d'écrire, et le fait qu'AWS ait mis en avant « les utilisateurs ou l'IA » vous indique à qui cela s'adresse.

La vraie limite de votre système multi-agent, ce sont les tokens par minute

Sun, 21 Jun 2026 16:00:00 +0200

Amazon Bedrock fait désormais apparaître les quotas de tokens par minute de son endpoint Mantle dans la console AWS Service Quotas standard. Vous pouvez lire directement, par modèle, les limites de tokens d'entrée par minute et de tokens de sortie par minute, et demander des augmentations via le même workflow que vous utilisez déjà pour tout le reste dans AWS. Cela ressemble à un petit changement de console. Pour quiconque exploite des systèmes multi-agents en production, c'est la différence entre planifier sa capacité et la découvrir sous la forme d'un mur de 429.

L'Estonie va donner une identité aux agents IA. C'est la partie facile

Sat, 20 Jun 2026 16:00:00 +0200

L'Estonie a l'intention de délivrer des identités numériques officielles, des « AI ID codes », aux agents IA. Le cabinet du Premier ministre Kristen Michal explique que l'objectif est de permettre à l'IA d'« agir au nom de personnes, d'entreprises ou d'organisations dans des limites clairement définies et d'une manière à la fois vérifiable et auditable ». Si le projet aboutit, l'Estonie devient le premier pays à donner aux agents IA une identité reconnue par l'État. C'est une avancée réellement utile, et c'est aussi la partie facile. La partie difficile, c'est tout ce que cette identité est censée porter.

Le Chaton Fat : le modèle d'IA le plus gros qui n'a jamais existé

Thu, 18 Jun 2026 11:00:00 +0200

Laissez-moi vous épargner une recherche : il n'existe aucun modèle appelé Le Chaton Fat. Pas de poids, pas d'API, pas de benchmark. Ce n'est pas une fuite, ce n'est pas une roadmap, ce n'est pas un produit Mistral. C'est une blague, et ces derniers jours elle est devenue la plus drôle que la communauté IA se soit racontée depuis un bon moment.

Comme quelques personnes sont vraiment parties à la recherche du lien de téléchargement, je trouve que le truc mérite un véritable article. Voici donc ce qui se passe avec le modèle le plus gros qui n'a jamais existé.

Agents on Call, partie 4. Outils et la Gateway : MCP, listes blanches, lecture seule par défaut

Thu, 18 Jun 2026 09:00:00 +0200

Quatre outils se trouvent désormais derrière une seule AgentCore Gateway au lieu d'être câblés une fonction Python à la fois dans chaque agent : cloudwatch-read, logs-read et cost-read endossent un rôle en lecture seule dans un compte spoke et ne peuvent jamais rien muter, et ssm-execute, l'unique outil mutant de la plateforme, ne peut lui non plus atteindre un spoke directement, il ne peut que démarrer une exécution Step Functions qui se met en pause en attendant l'approbation Slack d'un humain. Cette pause n'est pas un raffinement d'interface. C'est le seul endroit de toute la plateforme où un identifiant AWS capable de changer quelque chose dans un compte spoke est émis, et il n'est émis qu'après qu'une personne a cliqué sur approuver.

Les agents codeurs IA ont besoin d'environnements de staging, eux aussi

Fri, 12 Jun 2026 09:00:00 +0200

Toute la discipline d'environnement que votre équipe a construite pour les humains s'applique aux agents codeurs, et la plupart des équipes l'ont discrètement abandonnée dès que l'agent est devenu bon. La même organisation qui ne laisserait jamais une nouvelle recrue approcher la production le premier jour va confier à un agent un identifiant de longue durée et une description de tâche, puis s'étonner que quelque chose de critique ait sauté.

Agents on Call, partie 3. Premier agent : le triage d'incidents en Strands

Thu, 11 Jun 2026 09:00:00 +0200

Le premier agent fonctionnel de cette série tient en environ 260 lignes de Python : un Agent Strands, deux outils en lecture seule qui endossent un rôle IAM cross-account avant d'appeler boto3, et un system prompt dont tout le travail consiste à empêcher le modèle de sembler sûr de lui sur quelque chose qu'il n'a pas réellement vérifié. Pas encore d'AgentCore Gateway, pas de superviseur, pas de handoff multi-agent : cela viendra dans les parties suivantes. Cette partie porte sur le fait de faire fonctionner correctement un seul agent pour une seule tâche, déployé sur AgentCore Runtime, avant d'ajouter quoi que ce soit qui compliquerait son débogage.

Claude Code en CI : laisser un agent réparer le build

Mon, 08 Jun 2026 14:00:00 +0200

Mettre un agent codeur en CI est un problème de conception de permissions déguisé en gain de productivité. La mécanique tient en un après-midi de travail : le mode headless est disponible depuis Claude Code 2.0 en septembre 2025, et anthropics/claude-code-action@v1 enveloppe le tout dans une GitHub Action. Vous pouvez avoir un agent qui commente des pull requests avant midi. Faut-il pour autant lui laisser pousser des commits est une question différente, et c'est la seule qui compte.

Agents on Call, partie 2. Les fondations : Terraform avant les tokens

Thu, 04 Jun 2026 09:00:00 +0200

Avant que l'un des quatre agents de la Partie 1 puisse consulter un log, chiffrer le coût d'une charge de travail ou proposer un correctif, cette plateforme a besoin d'une frontière de compte et de deux rôles IAM qui font de la « lecture seule par défaut » une propriété imposée par AWS, pas une promesse inscrite dans un system prompt. Cette frontière, la demande d'accès aux modèles qui doit avoir lieu des jours avant que quiconque ne prévoie une démo, et l'arbitrage entre inférence on-demand, provisionnée et profils d'inférence cross-region, voilà ce qui se construit dans cette partie, entièrement en Terraform, avant qu'une seule ligne de code d'agent n'existe.

La fenêtre de contexte n'est pas votre amie

Wed, 03 Jun 2026 10:00:00 +0200

Une grande fenêtre de contexte est une limite de capacité, pas une stratégie de recherche documentaire. Le fait qu'un modèle accepte plusieurs centaines de milliers de jetons ne signifie pas qu'il les lit avec une attention uniforme, et cela ne signifie certainement pas qu'il faille payer pour les envoyer tous. Chaque benchmark de contexte long qui a pris la peine de mesurer la position et la longueur dit la même chose : la précision chute à mesure que l'entrée grandit, et les preuves enfouies au milieu d'un prompt sont les moins utilisées.

AWS Monthly (mai '26) : les agents reçoivent un portefeuille

Sun, 31 May 2026 19:00:00 +0200

Mai 2026 a été le mois où AWS a remis un portefeuille aux agents et durci la chaîne d'outils qui les construit. Le titre du mois, c'est Amazon Bedrock AgentCore Payments en preview, la première façon managée pour un agent de payer de façon autonome les API, le contenu et les services qu'il utilise. Autour de ça, AWS a livré l'Agent Toolkit for AWS et a fait passer un serveur Model Context Protocol managé en disponibilité générale, tous deux visant à faire construire sur AWS aux agents de codage IA avec moins d'erreurs et des contrôles plus serrés. Pris ensemble, le mois dit que le récit des agents dépasse « peut-il raisonner » pour aller vers « peut-il transiger, et pouvons-nous faire confiance aux outils qui le construisent ».

Agents on Call, partie 1. Le scénario : pourquoi une équipe ops recrute des agents

Thu, 28 May 2026 09:00:00 +0200

Une entreprise SaaS B2B de taille moyenne, environ 50 ingénieurs répartis sur une trentaine de comptes AWS, déclenche une astreinte environ 40 fois par semaine, et l'alerte n'obtient une vraie réponse qu'après 25 à 35 minutes passées à rassembler le contexte à la main : quel compte, quel tableau de bord, quel runbook, et si ce runbook est encore exact. Cela précède le diagnostic, ça ne le remplace pas. Cette série construit la solution : une petite plateforme d'agents IA qui effectue automatiquement ce premier passage, lit tout ce qu'elle est autorisée à lire, ne change rien sans le feu vert d'un humain, et cesse d'être utile dès qu'elle cesse d'être aussi disciplinée.

Journaliser les prompts sans journaliser les PII

Wed, 27 May 2026 14:00:00 +0200

Vous ne pouvez pas déboguer une application LLM sans journaliser les prompts, et vous ne pouvez pas garder ces prompts s'ils sont pleins de noms, d'emails et de numéros de compte. Les utilisateurs tapent des informations personnelles identifiables directement dans la boîte de saisie, donc le log qui vous aide à comprendre une mauvaise réponse est aussi un stock grandissant de données réglementées assis dans CloudWatch ou S3 avec la mauvaise rétention et les mauvais contrôles d'accès. La solution n'est pas d'arrêter de journaliser. C'est de rédiger avant le stockage et de poser une politique de rétention sur ce qui reste, pour que la valeur de débogage survive et que la responsabilité juridique ne suive pas.

Maintenant

Mon, 25 May 2026 10:00:00 +0200

(Derniere mise a jour : mai 2026)

Ecriture

Publication de notes de terrain ici sur l’IA, les LLMs et le ML applique. Egalement responsable de ercan.cloud pour le cloud et l’ingenierie de plateforme, et des actualites IA en format court sur news.ercan.ai. Construction de awsmonthly.cloud, un digest mensuel d’actualites AWS (pas encore lance).

Conseil

Quelques missions de conseil en IA et ML applique en cours. Architecture Bedrock, optimisation des couts LLM, conception de pipelines agentiques, direction de plateforme IA par interim. Si ce que vous developpez rejoint mes sujets d’ecriture, contactez-moi sur LinkedIn.

Consulting & Advisory

Sun, 24 May 2026 10:00:00 +0200

Je prends un petit nombre de missions de conseil chaque annee. J’aime ce travail. Il me garde dans les contraintes reelles de production, la ou naissent les bons patterns. Chaque mission nourrit les articles de ce site, et les articles nourrissent les missions.

Services

Architecture de plateforme Bedrock et LLM. Fondation orientee couts pour les charges LLM en production. Routage de modeles, profilage d’inference, conception de guardrails, basculement multi-region. Vous livrez des fonctionnalites, pas de l’infrastructure.
Optimisation des couts LLM. La plupart des equipes paient 60-90 % de trop sur Bedrock Knowledge Base, OpenSearch Serverless et le throughput provisionne, car le modele tarifaire est contre-intuitif. Je trouve le gaspillage, restructure la pile et vous remets le tableau de bord des couts.
Conception de pipelines agentiques. Passer du chat aux agents. Architecture tool-use, conception de boucle d’agent, points de controle human-in-the-loop, tracing et observabilite pour les flux non deterministes.
S3 Vectors et architecture RAG. Recherche vectorielle native S3, strategie de chunking, selection de modele d’embedding, evaluation de la recuperation. Evitez le reflexe “ajoutons juste une base vectorielle”.

Ma facon de travailler

Par projet. Vous avez une fonctionnalite, un pipeline ou une migration specifique. Je le construis avec votre equipe et transfere la propriete avec la documentation.

A propos

Sat, 23 May 2026 10:00:00 +0200

Je suis Ercan Ermis. Ingenieur senior en plateforme cloud, base aux Pays-Bas. J’ecris ici sur l’IA, les LLMs, les agents et le travail d’ingenierie necessaire pour les mettre en production.

Comment j’en suis arrive la

Le premier ordinateur de ma vie etait un Amstrad avec deux lecteurs de disquettes 5,25 pouces, Floppy A et Floppy B, achete par mon pere en 1986 pour son entreprise. Le declic reel s’est produit en 1998, en quatrieme annee, quand mon enseignant a installe Linux sur une des machines Windows 95 du laboratoire informatique de l’ecole et a dit “ca c’est Linux, c’est du logiciel libre”. Puis Pac-Man est apparu sur cet ecran noir et c’etait fini pour moi.

Quand Haiku bat Opus : le bon dimensionnement de modèle sur Bedrock

Fri, 22 May 2026 11:00:00 +0200

La plupart du trafic LLM en production n'est pas difficile. C'est de la classification, de l'extraction, des réécritures courtes et du routage, le genre de travail qu'un petit modèle rapide fait correctement et à moindre coût. Pourtant, le pattern courant consiste à câbler chaque appel vers le plus gros modèle disponible, parce que « ça marche tout simplement », puis à se demander pourquoi la facture et la latence sont toutes les deux élevées. Sur Amazon Bedrock, Claude Haiku 4.5 et Claude Opus 4.5 sont tous les deux disponibles, et le gain d'ingénierie n'est pas d'en choisir un, c'est de router par classe de tâche pour que le modèle bon marché gère la majorité et que le modèle coûteux soit un chemin d'escalade, pas un défaut.

Le RAG agentique, c'est surtout de la latence dont vous n'avez pas besoin

Mon, 18 May 2026 16:00:00 +0200

Le RAG agentique remplace une récupération unique par une boucle : le modèle récupère, lit, décide qu'il lui en faut plus, récupère à nouveau, et répète jusqu'à être satisfait. Chaque saut est un aller-retour de modèle complet plus une recherche, et les sauts sont séquentiels parce que chacun dépend du précédent. Pour la plupart des questions, ça achète une réponse marginalement meilleure pour plusieurs fois la latence, alors qu'une requête bien construite aurait renvoyé le même contexte en une seule passe. La récupération multi-saut est un vrai outil pour une classe étroite de questions, et un défaut qui triple discrètement votre temps de réponse partout ailleurs.

Les évals avant les agents : on ne livre pas ce qu'on ne peut pas noter

Thu, 14 May 2026 13:00:00 +0200

Si vous ne pouvez pas mettre un chiffre sur le fait qu'un changement a rendu votre agent meilleur ou pire, vous ne l'ingénierez pas, vous devinez avec des étapes en plus. La raison la plus courante pour laquelle les projets d'agents stagnent n'est pas un modèle faible, c'est l'absence d'un harnais d'évaluation. Sans ça, chaque ajustement de prompt, chaque changement d'outil, chaque changement de modèle est évalué par quelqu'un qui regarde une poignée de sorties et déclare que « ça semble mieux », ce qui est la façon de livrer une régression et de l'apprendre par un utilisateur. Le tableau de score doit exister avant l'agent, parce qu'on ne peut pas améliorer ce qu'on ne peut pas noter.

Cache sémantique : deux questions différentes, une seule réponse

Mon, 11 May 2026 09:00:00 +0200

Un cache sémantique répond à « comment réinitialiser mon mot de passe » avec la réponse déjà générée pour « j'ai oublié mon identifiant », parce que les deux veulent dire la même chose. Au lieu de faire correspondre la chaîne exacte d'une requête, il transforme la requête en embedding et cherche une requête stockée dont l'embedding est assez proche, puis renvoie cette réponse en cache sans appeler le modèle. Quand ça marche, vous économisez un appel de modèle en entier : aucun token, aucune latence, aucun coût. Quand il se trompe sur « assez proche », il sert une réponse pleine d'assurance à une question que l'utilisateur n'a pas posée.

Step Functions, l'orchestrateur d'agents le plus sous-estimé

Thu, 07 May 2026 15:00:00 +0200

Ce que la plupart des gens appellent un agent est une séquence fixe d'étapes avec un ou deux appels de modèle au milieu. Le flux de contrôle est connaissable à l'avance, mais les équipes le confient quand même au modèle, puis passent des semaines à faire se comporter correctement une boucle non déterministe. Quand la forme du travail est connue, l'orchestrateur devrait être déterministe, et AWS Step Functions convient mieux à ce travail qu'une boucle d'agent codée à la main. Il résout déjà les retries, les timeouts, la gestion d'erreurs, le parallélisme et l'approbation humaine, exactement les choses qu'un framework d'agent vous demande de réimplémenter.

Passerelles LLM : pourquoi chaque équipe plateforme finit par en construire une

Mon, 04 May 2026 10:00:00 +0200

La première fonctionnalité LLM part en production sous la forme d'un appel direct d'un service vers Bedrock. La dixième part de la même façon, depuis dix services, avec dix jeux d'identifiants, dix politiques de retry, et aucun endroit unique pour voir qui dépense quoi. C'est le moment où une équipe plateforme découvre qu'elle a besoin d'une passerelle LLM, généralement un trimestre après le moment où il aurait été bon marché d'en construire une. Une passerelle est la porte d'entrée partagée par laquelle passe chaque appel de modèle, et elle existe pour posséder les quatre choses que les équipes individuelles réinventent mal chacune de leur côté : authentification, quota, routage et audit.

AWS Mensuel (avr. 26) : OpenAI débarque sur Bedrock

Thu, 30 Apr 2026 18:00:00 +0200

Avril 2026 a été le mois où le menu de modèles sur Amazon Bedrock a changé de forme. Le titre n'était pas une nouvelle capacité AWS mais un nouveau locataire : les modèles frontière d'OpenAI, son agent de codage Codex, et les Managed Agents propulsés par OpenAI sont arrivés sur Bedrock en préversion limitée. Parallèlement, AgentCore a passé le mois à réduire l'effort nécessaire pour passer d'une idée à un agent qui tourne. Lus ensemble, les deux récits disent la même chose. Bedrock se positionne comme le lieu neutre où les entreprises exécutent le modèle frontière de leur choix, et AWS court pour rendre le flux de développement environnant assez rapide pour que le choix du modèle soit la seule décision qui reste.

Inférence inter-régions : résilience bon marché ou piège de résidence des données ?

Sun, 26 Apr 2026 13:00:00 +0200

L'inférence inter-régions Amazon Bedrock vous donne un débit effectif plus élevé et moins d'erreurs de throttling régional sans surcoût de routage, ce qui approche la résilience gratuite. Le piège est qu'un profil d'inférence global peut envoyer votre prompt vers n'importe quelle région ayant de la capacité, et si ce prompt porte des données réglementées, « où qu'il y ait de la capacité » n'est pas une réponse que votre équipe conformité acceptera. La fonctionnalité est authentiquement utile. Qu'elle soit un gain ou une violation dépend entièrement du type de profil d'inférence que vous choisissez, et ce choix est facile à faire sans lire ce qu'il implique.

Votre facture LLM est un problème d'observabilité

Tue, 21 Apr 2026 15:00:00 +0200

Quand votre facture Amazon Bedrock bondit et que personne ne peut dire quelle fonctionnalité en est la cause, vous n'avez pas un problème de tarification. Vous avez un problème d'observabilité. La facture vous dit que le compte a dépensé plus en tokens. Elle ne vous dit pas quel agent, quel tenant, ou quel chemin de code a dépensé, et sans cette attribution, chaque conversation sur les coûts est une supposition. Vous ne pouvez pas optimiser ce que vous ne pouvez pas mesurer, et la plupart des équipes mesurent le total et rien en dessous.

L'inférence par lots sur Bedrock : demi-tarif si vous pouvez attendre

Fri, 17 Apr 2026 11:00:00 +0200

Amazon Bedrock exécute l'inférence par lots à 50 % du tarif de tokens à la demande, et la seule chose que vous sacrifiez est l'immédiateté. Vous soumettez un fichier de requêtes, le job s'exécute de manière asynchrone quand il y a de la capacité, et vous récupérez les résultats plus tard. Pour toute charge de travail où aucun humain n'attend la réponse assis là, payer le plein tarif pour de l'inférence en temps réel laisse la moitié de l'argent sur la table pour une vitesse dont personne n'avait besoin.

Applications LLM multi-tenant : isoler les clients sur un modèle partagé

Mon, 13 Apr 2026 16:00:00 +0200

Quand plusieurs clients partagent un modèle Bedrock, le modèle ne vous offre aucune isolation et n'était jamais censé le faire. C'est une fonction sans état : même entrée, même comportement, aucune mémoire de qui l'a appelé. Chaque frontière entre tenants doit être construite dans les couches autour du modèle, pas attendue de lui. Les équipes s'y prennent à l'envers, supposent que le service géré gère la séparation, et livrent une application où les données, le coût et la charge d'un tenant contaminent ceux d'un autre. Le modèle partagé va bien. Le reste partagé est le problème.

La mémoire d'agent est un problème de base de données, pas un problème de prompt

Thu, 09 Apr 2026 09:00:00 +0200

Un agent qui se souvient en collant tout son historique dans le prochain prompt n'a pas de mémoire. Il a une facture croissante, un plafond de tokens strict, et une courbe de latence qui empire à chaque tour. La vraie mémoire est une décision de stockage : ce que vous persistez, où vous le mettez, et comment vous en récupérez uniquement la tranche pertinente au moment de l'inférence. C'est un problème de base de données, et le traiter comme un problème de prompt est ce qui fait s'effondrer en semaine deux les agents qui font une bonne démo.

La sortie structurée bat le parsing astucieux

Mon, 06 Apr 2026 14:00:00 +0200

Si votre application extrait encore du JSON depuis de la prose modèle avec une regex et une boucle de reprise, vous résolvez un problème qu'Amazon Bedrock résout désormais au niveau du décodage. Les sorties structurées, disponibles en général sur Bedrock depuis février 2026, contraignent le modèle à un JSON Schema pendant qu'il génère des tokens, si bien que la réponse se conforme à votre forme par construction plutôt que par espoir. La regex n'a jamais été la solution. Elle était le symptôme de demander à un modèle de « retourner du JSON s'il vous plaît » puis de nettoyer quand il ne le faisait pas.

Le Prompt Caching sur Bedrock : la remise de 90 % que la plupart des équipes ignorent

Thu, 02 Apr 2026 10:00:00 +0200

Amazon Bedrock lit un préfixe mis en cache avec environ 90 % de réduction, mais une écriture en cache coûte plus cher qu'un token d'entrée normal, donc un cache qui ne reçoit jamais de hit rend votre facture pire, pas meilleure. La fonctionnalité est disponible en général depuis avril 2025, et la durée de cache d'une heure lancée en janvier 2026 la rend utile pour des sessions entières et des jobs batch. La plupart des équipes la laissent désactivée, ou l'activent au mauvais endroit et paient silencieusement une prime. La remise est réelle. La capturer dépend entièrement de l'endroit où vous placez le point de rupture du cache.

AWS Monthly (mars 26) : la gouvernance rattrape les agents

Tue, 31 Mar 2026 20:00:00 +0200

Mars 2026 est le mois où AWS a cessé de livrer des capacités d'agents pour commencer à livrer des contrôles d'agents. Les lancements phares n'étaient pas de nouveaux modèles ni des démos plus tape-à-l'œil. C'étaient les éléments ennuyeux et structurants dont vous avez besoin avant qu'un agent ne soit autorisé à approcher la production : une couche d'autorisation, une couche d'évaluation de la qualité, et une pile de santé qui devait être gouvernée pour avoir le droit d'exister. Le schéma sur l'ensemble du mois est le même que celui que traverse toute technologie en train de mûrir. Le travail intéressant passe de « est-ce que ça sait faire la chose » à « pouvez-vous prouver ce que ça a fait et l'empêcher de faire la mauvaise chose ».

Le streaming des réponses est une décision d'UX, pas de performance

Tue, 24 Mar 2026 15:00:00 +0200

Le streaming ne rend pas votre modèle plus rapide. Il rend l'attente plus courte en apparence. Le temps total de génération d'une réponse est presque identique, que vous la diffusiez en streaming ou non. Ce que le streaming change, c'est le moment où l'utilisateur voit le premier token, et ce seul chiffre, le temps jusqu'au premier token, pilote toute la perception de vitesse. Traitez le streaming comme une décision d'UX, parce que c'est ce que c'est, et vous ferez de meilleurs choix sur quand l'utiliser et quand il nuit activement.

Bedrock Agents contre votre propre boucle maison

Wed, 18 Mar 2026 10:00:00 +0200

Un framework d'agent managé échange du contrôle contre de la vitesse, et cet échange en vaut la peine jusqu'au jour où ce n'est plus le cas. Amazon Bedrock Agents exécutera la boucle raisonner-agir pour vous : il planifie, décide quel outil appeler, l'invoque, renvoie le résultat au modèle, et répète jusqu'à ce que la tâche soit terminée. C'est du travail réel que vous n'avez pas à écrire. La question n'est pas de savoir si cela vous fait gagner du temps. C'est de savoir si les parties qu'il vous cache sont des parties que vous pouvez vous permettre de ne plus voir.

IAM pour les applications LLM : le moindre privilège quand l'appelant est un modèle

Sat, 14 Mar 2026 17:00:00 +0200

Un agent est un appelant que vous ne pouvez pas entièrement prévoir, ce qui en fait exactement l'appelant qui devrait détenir le moindre privilège. Le réflexe avec un nouvel agent est de lui donner un rôle large pour qu'il « fonctionne tout simplement » pendant que vous itérez. Ce réflexe est la façon dont on finit avec un modèle de langage détenant des identifiants capables de lire chaque bucket et de supprimer chaque table, piloté par du texte qu'un attaquant peut influencer. Le moindre privilège a toujours été la règle. Un appelant non déterministe le rend non négociable.

Quelqu'un a Enregistre antrophic.com et le Redirige Directement vers OpenAI

Wed, 11 Mar 2026 12:34:48 +0300

Un domaine typosquatte, une redirection suspecte, et un peu trop de choses pour appeler cela une coincidence.

Voici le vrai domaine : anthropic.com. L'entreprise de securite IA derriere Claude, fondee par d'anciens chercheurs d'OpenAI, qui fait un travail veritablement important pour rendre les systemes d'IA surs et interpretables.

Maintenant, essayez de mal l'ecrire. Omettez le deuxieme "h". Vous obtenez antrophic.com -- un domaine qui existe, est enregistre, et selon plusieurs signalements, redirige directement vers openai.com.

Arrêtez le fine-tuning. Vous avez besoin de RAG, d'un cache et de meilleurs prompts

Mon, 09 Mar 2026 11:00:00 +0200

Pour la plupart des équipes qui se tournent vers le fine-tuning sur Amazon Bedrock, la bonne réponse est la récupération, un cache de prompt, et de meilleurs prompts, dans cet ordre. Le fine-tuning est l'outil à envisager après avoir épuisé ces trois options, pas avant. La raison n'est pas idéologique. C'est la facture. Un modèle fine-tuné personnalisé sur Bedrock doit être servi via Provisioned Throughput, et ce modèle de tarification change l'économie de toute votre application.

Le découpage en chunks de la base de connaissances, c'est là que meurt la qualité de votre RAG

Thu, 05 Mar 2026 14:00:00 +0200

Quand un système RAG donne une réponse fausse ou à moitié correcte, le modèle n'en est généralement pas la cause. C'est le découpage en chunks. Si le passage qui contient la réponse n'arrive jamais dans le contexte récupéré, aucun modèle ne peut répondre à partir de lui, et aucun réglage de prompt n'y changera rien. Le découpage en chunks détermine ce qui peut être récupéré, ce qui en fait la première chose à inspecter et la dernière que la plupart des équipes examinent.

Bedrock Guardrails ne vous protégera pas de l'injection de prompt

Tue, 03 Mar 2026 09:00:00 +0200

Amazon Bedrock Guardrails est un filtre de contenu, pas une barrière de sécurité. Il classe le texte selon des politiques de sujet, de toxicité et de PII et bloque ce qui dépasse un seuil. C'est réellement utile pour empêcher un bot de support client de parler d'un concurrent ou de divulguer un numéro de téléphone. Ce n'est pas ce qui empêche une injection de prompt de transformer votre agent en adjoint confus, parce que l'injection de prompt est un problème d'autorisation et Guardrails n'autorise rien.

Reduire les Couts d'Amazon Bedrock Knowledge Base de ~90%: Migration d'OpenSearch Serverless vers Aurora Serverless v2 avec pgvector

Sat, 21 Feb 2026 21:30:00 +0300

TL;DR

Si vous utilisez une Amazon Bedrock Knowledge Base adossee a OpenSearch Serverless (AOSS), vous payez un plancher d'environ 700$/mois avant meme d'ingester un seul document. Pour la plupart des workloads RAG de petite et moyenne taille, remplacer AOSS par Aurora PostgreSQL Serverless v2 avec l'extension pgvector fait tomber ce plancher a moins de 50$/mois, soit une reduction de cout d'environ 90% ; tout en restant un vector store pleinement supporte et de premier ordre pour Bedrock Knowledge Bases.

AWS Monthly (Dec '25) : L'ere Kiro commence

Wed, 31 Dec 2025 20:23:45 +0300

Nous avons termine l'annee avec la disponibilite generale de Kiro (Frontier Agents). Kiro n'est pas qu'un chatbot, c'est une Equipe Virtuelle de Developpement Logiciel.

Techniquement, Kiro est un Agent de Codage Autonome. Vous pouvez lui assigner un ticket Jira, et il va :

Extraire le contexte de vos depots Git.
Rediger l'implementation dans un sandbox securise.
Executer les tests unitaires et d'integration.
Soumettre la Pull Request pour votre revue.

Il comprend le contexte de l'ensemble de votre codebase, pas seulement d'un fichier unique. Nous avons egalement vu le lancement des Database Savings Plans, qui agregent enfin vos depenses sur RDS, Aurora et DynamoDB en un seul engagement flexible.

AWS re:Invent 2025: L'Ere "Agentic"

Sun, 14 Dec 2025 20:25:19 +0300

Si 2024 etait l'annee ou l'on parlait aux LLMs, re:Invent 2025 etait celle ou on les laissait vraiment faire le travail. Voici le recapitulatif complet des annonces les plus significatives.

1. La Famille de Modeles Amazon Nova 2

AWS n'a pas simplement mis a jour ses modeles ; ils ont construit une flotte specialisee pour differents roles agentic :

Nova 2 Lite : Optimise pour la vitesse et le cout. Egal ou meilleur que Gemini Flash 2.5 sur 14/18 benchmarks.
Nova 2 Pro : Le poids lourd du "Raisonnement." Ideal pour les taches complexes multi-etapes et la planification a long terme.
Nova 2 Sonic : Un modele speech-to-speech pour l'IA conversationnelle a faible latence.
Nova 2 Omni : La veritable star multimodale. Il traite le texte, les images, la video et la parole simultanement avec une fenetre de contexte de 1M tokens.
Nova Act : Generalement disponible et concu specifiquement pour l'automatisation UI (taches basees sur le navigateur) avec une fiabilite superieure a 90%.

2. Silicium Personnalise : Graviton5 & Trainium3

Le recit materiel portait sur le decouplage de la performance et du cout :

AWS Monthly (Oct '25): Industrialisation de l'Entrainement IA

Fri, 31 Oct 2025 20:18:03 +0300

Octobre a ete le "calme avant la tempete re:Invent," mais il a apporte le devoilement de Project Rainier.

Project Rainier est un cluster de calcul IA massif comprenant plus de 500 000 puces Trainium2. Techniquement, c'est l'un des plus grands environnements d'entrainement IA dedies de la planete. Pour nous, cela signifie "l'Industrialisation de l'IA." Le rapport prix/performance du Trainium2 via le Neuron SDK est desormais nettement meilleur que les instances GPU comparables pour les workloads Transformer.

AWS Monthly (Juin '25): S3 Devient Votre Base Vectorielle

Mon, 30 Jun 2025 20:08:00 +0300

Juin a vu un changement tectonique dans la stack de donnees IA avec la preview d'Amazon S3 Vector Search.

Ces deux dernieres annees, on nous a dit qu'il fallait une base de donnees vectorielle specialisee (Pinecone, Milvus, etc.) pour la Generation Augmentee par Recuperation (RAG). AWS a simplifie l'equation : "Stockez vos vecteurs dans S3." Techniquement, cela ajoute une couche d'indexation vectorielle native aux buckets S3. Vous pouvez stocker les embeddings comme metadonnees sur vos objets et effectuer des recherches KNN (K-Nearest Neighbor) directement via l'API.

AWS Monthly (Fev '25): Evolution Automatisee du Code

Fri, 28 Feb 2025 19:49:00 +0300

Fevrier a ete le mois ou Amazon Q Developer a cesse d'etre un simple "assistant" pour se comporter comme un "ingenieur senior." Le lancement tete d'affiche etait le Q-driven Refactoring.

Il ne s'agit pas simplement de completion de code basique. Techniquement, Q utilise desormais une combinaison d'IA symbolique et de LLMs pour effectuer une cartographie complete des dependances du depot. Il peut gerer de maniere autonome des migrations complexes, comme le refactoring d'un microservice Java 8 legacy vers Java 21. Il identifie les librairies depreciees, suggere des alternatives modernes, et reecrit le code boilerplate pour l'aligner sur les design patterns modernes, comme l'Architecture Hexagonale.