Pour l'IA agentique, le routage par appel est le point aveugle. TRACE-Router a une solution.

Les déploiements d'IA en entreprise reposent sur des routeurs qui choisissent entre les LLM pour équilibrer coût et qualité. L'approche standard : évaluer chaque requête entrante et l'envoyer au modèle le moins cher susceptible de la traiter. Cela fonctionne pour les requêtes simples et isolées. Les workflows agentiques sont différents.

Lorsqu'un agent IA exécute une tâche en plusieurs étapes, le résultat dépend de la séquence des appels, pas d'un seul. Un mauvais choix de modèle tôt dans le processus peut faire dérailler toute la tâche, mais un routeur par appel n'a aucun moyen de le savoir jusqu'à ce que la tâche se termine et que la récompense arrive. Le routeur opère dans l'obscurité pour chaque appel intermédiaire.

Ce décalage est le problème que TRACE-Router, un nouveau framework décrit dans un préprint arXiv de juillet 2026, cherche à résoudre. Au lieu de router chaque appel LLM indépendamment, TRACE-Router assigne une tâche à un modèle à l'admission en utilisant un bandit contextuel, puis épingle chaque appel ultérieur au même backend. Il met à jour sa politique uniquement lorsque la tâche se termine et que la récompense terminale est disponible, en tenant compte à la fois de la précision et de la latence.

Les auteurs présentent cela comme un alignement du routage avec l'unité de supervision. Parce que la politique apprend à partir de retards de feedback au niveau de la tâche, elle s'adapte à la charge de travail sans avoir besoin d'une estimation explicite de la complexité de la tâche.

Les résultats sur trois benchmarks agentiques montrent des gains cohérents. Sur tau2-Bench, TRACE-Router surpasse une interpolation adaptée à la latence entre les modèles individuels de 7 à 8 points de précision. Sur Terminal-Bench, il bat la baseline du modèle unique le plus fort de 7,1 points de précision tout en réduisant la latence de 36%. L'article rapporte que TRACE-Router atteint des points non dominés sur la frontière de Pareto de la précision par rapport à la latence sur les trois benchmarks.

L'approche n'est pas sans compromis. En s'engageant sur un seul modèle pour toute la tâche, TRACE-Router sacrifie la flexibilité de changer en cours de tâche si un modèle moins cher suffirait pour une sous-tâche. Les auteurs soutiennent que la capacité à attribuer correctement le feedback l'emporte sur cette perte, en particulier dans les applications d'entreprise sensibles à la précision.

TRACE-Router s'ajoute à un corpus croissant de travaux qui traitent le routage non pas comme une optimisation par appel mais comme un problème de planification au niveau de la tâche. Pour les entreprises qui gèrent des pipelines agentiques à grande échelle, ce changement pourrait signifier choisir entre un routeur qui devine chaque étape et un autre qui apprend de l'ensemble du jeu.