Le RAG agentique remplace une récupération unique par une boucle : le modèle récupère, lit, décide qu'il lui en faut plus, récupère à nouveau, et répète jusqu'à être satisfait. Chaque saut est un aller-retour de modèle complet plus une recherche, et les sauts sont séquentiels parce que chacun dépend du précédent. Pour la plupart des questions, ça achète une réponse marginalement meilleure pour plusieurs fois la latence, alors qu'une requête bien construite aurait renvoyé le même contexte en une seule passe. La récupération multi-saut est un vrai outil pour une classe étroite de questions, et un défaut qui triple discrètement votre temps de réponse partout ailleurs.

Le recadrage : la récupération agentique échange de la latence contre la capacité de décomposer une question à l'exécution. Cet échange ne vaut le coup que quand la question a réellement besoin d'être décomposée. La plupart n'en ont pas besoin, et payer la taxe de la boucle sur des questions qu'une seule requête résout est la façon la plus courante dont les systèmes RAG deviennent lents pour rien.

D'où vient la latence

Le RAG en une passe, c'est un embedding, une recherche vectorielle, un appel de modèle. Le RAG agentique est une boucle, et la boucle est sérielle par construction : le modèle ne peut pas émettre la deuxième requête avant d'avoir lu les résultats de la première. Le coût en temps réel n'est donc pas une récupération plus une génération, c'est la somme de la recherche de chaque saut, de l'appel de modèle de chaque saut pour décider quoi faire ensuite, et de la génération finale. Trois sauts, c'est à peu près trois fois les allers-retours, et comme chaque appel de modèle relit aussi le contexte accumulé, le coût par saut tend à croître plutôt qu'à rester stable.

Rien de tout ça n'est un travail caché que l'utilisateur a demandé. De son côté, c'est une question qui prend maintenant huit secondes au lieu de deux. Si ces huit secondes n'ont pas acheté une réponse substantiellement meilleure, vous avez dépensé votre budget de latence pour rien.

Une bonne requête bat une boucle astucieuse, en général

Une quantité surprenante de RAG agentique existe pour compenser une première requête faible. Si la récupération initiale ramène les mauvais chunks, le travail de la boucle devient « remarquer que le contexte est mauvais et aller chercher un meilleur contexte », ce qui est une récupération d'erreur coûteuse. Corrigez la requête et la boucle n'a souvent plus rien à faire.

Avant de vous tourner vers le multi-saut, investissez l'effort dans la passe unique :

  • Réécrivez la requête. Un appel de modèle bon marché pour transformer une question utilisateur désordonnée en une requête de recherche propre améliore la récupération plus qu'un deuxième saut, pour une fraction de la latence.
  • Récupérez plus large, puis rerankez. Ramenez un ensemble de candidats plus large en une seule recherche et rerankez-le, plutôt que de faire plusieurs recherches étroites en séquence.
  • Corrigez les chunks. La plupart des mauvaises récupérations sont un problème de découpage. De meilleurs chunks font aboutir la première requête, et la boucle devient inutile.

Ce sont toutes des améliorations en passe unique. Elles augmentent la qualité de réponse sans ajouter d'aller-retour sériel, ce qui est l'inverse de ce que fait la boucle.

Quand la récupération agentique gagne vraiment

La boucle mérite sa latence pour les questions qui ne peuvent vraiment pas être répondues par une seule requête, parce que la deuxième requête dépend de la réponse à la première. Le cas le plus clair est le raisonnement multi-saut sur des faits qu'il faut chaîner : « lesquels de nos fournisseurs dans la région touchée par la nouvelle réglementation sont à renouveler ce trimestre » est en réalité trois recherches où chacune restreint la suivante, et aucune récupération unique ne détient la réponse jointe.

Le motif à repérer est une véritable dépendance entre les récupérations : vous ne pouvez pas écrire la deuxième requête avant de connaître le résultat de la première. Quand cette dépendance est réelle, la boucle accomplit un travail nécessaire et la latence est le prix d'une réponse que vous n'auriez pas pu obtenir autrement. Quand elle est absente, et elle l'est le plus souvent, la boucle est une machinerie élaborée pour une question qu'une seule requête aurait résolue.

Décidez par question, pas par système

L'échec, c'est de faire de la récupération agentique le défaut pour chaque requête. Une meilleure conception route : les questions bon marché prennent la passe unique, et seules les questions qui montrent un signal de décomposition, plusieurs entités, une condition chaînée, un « comparer entre » explicite, escaladent vers la boucle. Un petit classifieur, voire une heuristique devant la récupération, peut prendre cette décision. L'objectif est de payer la taxe multi-saut exactement sur les questions qui la remboursent, et jamais sur celles qui ne la remboursent pas.

À retenir

Le RAG agentique n'est pas mauvais, il est surappliqué. Il transforme la récupération en boucle sérielle d'allers-retours de modèle, et pour la grande majorité des questions qu'une seule bonne requête résout, cette boucle est de la pure latence. Investissez d'abord dans la passe unique : réécrivez la requête, récupérez plus large et rerankez, corrigez les chunks. Réservez le multi-saut aux questions avec une vraie dépendance entre récupérations, et routez vers lui par question plutôt que de faire basculer tout le système par défaut. Le système RAG le plus rapide est celui qui ne boucle que quand la question l'exige vraiment.

À lire ensuite

Pour l'infrastructure derrière une récupération à faible latence à l'échelle, les notes de terrain cloud vivent sur ercan.cloud, et le hub est sur ercanermis.com.