Le routage CoBa égalise le vote majoritaire best-of-16 avec 58,9 % de jetons en moins

Le scaling au moment du test a une forme par défaut : dépenser plus de calcul d'inférence et se fier à l'amélioration de la réponse. Échantillonner plus de solutions, allonger la trace de raisonnement ou faire appel à un évaluateur plus puissant. Un article soumis à arXiv le 7 août 2026 soutient que ces trois leviers se font concurrence et que la question intéressante n'est pas la quantité de calcul qu'un système dépense, mais la façon dont il décide où va la prochaine unité. La réponse proposée est CoBa, une politique de routage à calcul équilibré, et son résultat principal est sans détour : une précision équivalente pour environ la moitié du coût en jetons.

L'article, intitulé « CoBa : Cost-Effective Test-Time Scaling via Compute-Balanced Routing », reformule le raisonnement au moment du test comme un problème d'allocation de calcul. À chaque étape, le système doit choisir entre génération, vérification ou arrêt. Les stratégies existantes ont tendance à s'engager sur un seul axe et à injecter le calcul dans une seule phase. CoBa part de l'observation inverse : sous un budget fixe, dépenser sur un axe affame les autres.

Pourquoi le scaling sur un seul axe se heurte à un mur

CoBa n'est pas le seul travail récent à remettre en question la logique du « dépenser plus ». ThinkRetrieve, un article arXiv complémentaire du 11 août 2026, rapporte que le scaling séquentiel au moment du test produit souvent des rendements décroissants, voire négatifs, car les traces de raisonnement plus longues accumulent de l'incertitude, cumulent les erreurs et s'éloignent du problème d'origine. Dans la même période, « The Verification Horizon » soutient que, pour les agents de codage, l'ancienne hypothèse selon laquelle vérifier est plus facile que produire s'est inversée : vérifier de manière fiable un candidat est désormais le problème le plus difficile, et chaque vérificateur n'est qu'un proxy de l'intention humaine.

Les deux articles convergent vers la prémisse de CoBa : les gains d'une allocation plus intelligente peuvent dépasser les gains d'un surcroît de calcul. PoTRE, un cadre de juillet 2026, atteint de meilleures performances de raisonnement avec un nombre de jetons d'inférence similaire ou inférieur à celui de baselines homogènes fortement mises à l'échelle. Penelope, soumis le 28 juillet 2026, localise le calcul récurrent pour éviter les longues traces de raisonnement visibles. Le même glissement est visible côté inférence, où des travaux comme DSpark traitent l'accélération comme un problème d'ordonnancement et d'allocation de ressources plutôt que de pure optimisation de modèle. Le domaine converge vers l'allocation plutôt que vers la force brute.

Comment CoBa route le calcul

CoBa fonctionne en deux niveaux. Il génère d'abord un petit ensemble de candidats, applique une vérification peu coûteuse à tous, puis route les candidats incertains ou à forte valeur vers une vérification plus robuste. Les vérificateurs faibles filtrent les échecs évidents à faible coût ; la vérification forte n'est dépensée que là où elle peut changer le résultat.

Le système a été évalué sur 3 129 évaluations de générateurs d'exemples couvrant MATH-500, AIME 2024 et 2025, AMC 2023 et le raisonnement symbolique procédural. Ces benchmarks couvrent les mathématiques de compétition et les tâches symboliques structurées, le terrain où les affirmations sur le scaling au moment du test sont généralement testées.

Les chiffres d'efficacité qui comptent

CoBa-Routed-Strong atteint une précision macro de 85,13 %, égalant statistiquement un proxy de vote pondéré par auto-évaluation à 85,20 % tout en utilisant 49,1 % de jetons pondérés par paramètres en moins. Face à la force brute, le résultat est plus frappant : il égalise le vote majoritaire best-of-16 à moins de 0,01 point de précision macro près tout en utilisant 58,9 % de jetons pondérés par paramètres en moins, même si les tests appariés conservent un léger avantage au best-of-16 à un coût nettement plus élevé.

Les jetons pondérés par paramètres comptent le travail de chaque jeton selon la taille du modèle qui l'a produit, de sorte que la comparaison couvre à la fois la longueur de sortie et l'échelle du modèle. L'arithmétique vaut la peine d'être faite : 58,9 % de jetons en moins signifie que CoBa fonctionne à environ 41 % du coût du best-of-16, soit environ 2,4 fois moins cher. Le proxy d'auto-évaluation consomme presque deux fois le budget de CoBa.

Les tests bootstrap appariés confirment des gains significatifs par rapport au décodage à échantillon unique. CoBa ne se contente pas d'économiser des jetons tout en maintenant la qualité ; elle bat la baseline la moins chère et égalise les plus coûteuses.

Là où CoBa reste en deçà

L'article est explicite sur les limites. Le best-of-16 conserve un avantage faible mais significatif dans les tests appariés : lorsque chaque point de précision compte et que le budget existe, le vote par force brute reprend encore l'avantage. Et l'oracle du pool, qui sélectionne toujours le meilleur candidat disponible, reste hors d'atteinte. L'écart avec l'oracle est décrit comme une marge de progression pour un routage plus fin, ce qui est une autre façon de dire que le niveau de vérification peu coûteuse classe encore mal des candidats qu'une passe plus robuste aurait détectés.

Les résultats reposent également sur une famille de benchmarks spécifique. Les mathématiques de compétition et le raisonnement symbolique récompensent des réponses vérifiables et bien délimitées. La question de savoir si la même économie de routage s'applique à des tâches agentiques ouvertes ou créatives n'est pas établie par cet article.

Ce que cela signifie pour les systèmes locaux et à budget limité

L'article s'achève sur l'implication la plus importante pour le déploiement sur appareil et sous contrainte de coût : pour les systèmes de raisonnement locaux, le scaling au moment du test devient une question de savoir où le prochain calcul est le plus précieux. Lorsque chaque jeton a un prix, une politique qui route plutôt qu'elle n'échantillonne n'est pas une commodité. C'est la différence entre une technique qui tient dans le budget et une qui n'y tient pas.

Ce cadrage expose également l'hypothèse sur laquelle s'appuie CoBa : la vérification peu coûteuse attrape la plupart des échecs. L'avertissement de l'article « The Verification Horizon » s'applique ici aussi. Les politiques de routage réduisent le coût de la vérification, mais pas le fait qu'un vérificateur est un proxy. Le gain d'efficacité est réel. Le risque épistémique ne disparaît pas.