Le piège des tokens est bien réel : l'OS agentique d'Alibaba vous montre où va chaque centime

Alibaba Cloud a lancé Agentic OS (ANOLISA) en mars, le présentant comme le premier système d'exploitation orienté agent de l'industrie. L'accueil a été enthousiaste, mais la question la plus fréquente des utilisateurs allait droit au but : Comment minimiser la consommation de tokens ?

La question cache un problème plus profond. La consommation de tokens dans les systèmes multi-agents a longtemps été une boîte noire. Vous voyez un total à la fin du mois, mais aucune répartition de quel agent, quelle étape ou quelle branche décisionnelle a englouti le budget. Cette invisibilité est désormais un passif alors que les déploiements d'agents passent de démonstrations ludiques à des charges de travail de production gérant tickets, inspections et demandes clients 24 heures sur 24.

Entrez AgentSight, l'outil d'observabilité qu'Agentic OS a lancé dans sa dernière mise à jour. AgentSight promet de transformer cette boîte noire en un registre transparent avec une granularité au niveau de la session et du dialogue, des alertes en temps réel et une lecture de la trajectoire complète de la chaîne. L'outil est à la fois une aide au débogage et, potentiellement, une nécessité économique pour toute équipe déployant des agents IA en production.

Ce que vous ne voyez pas, vous ne pouvez pas le réduire

Le panneau de visualisation d'AgentSight aborde la tension fondamentale dans les opérations des agents : vous laissez les agents tourner 24h/24 et 7j/7, mais vous ne pouvez pas les surveiller en permanence. L'ancien schéma était un crash silencieux en arrière-plan découvert le matin suivant, ou un travail critique interrompu sans aucune alerte. Le nouveau panneau rend la santé des agent visible en un coup d'œil, quels agents sont en ligne, lesquels sont hors ligne, lesquels sont bloqués, actualisé en temps réel depuis une vue d'ensemble globale jusqu'aux conversations individuelles.

Lorsqu'un agent se déconnecte ou se bloque, AgentSight ne se contente pas de signaler l'erreur. Il envoie automatiquement une alerte et peut déclencher un redémarrage, réduisant l'intervention manuelle. Chaque battement de cœur est exposé.

La vérification météo à 140 000 tokens

Le vrai problème, c'est le gaspillage de tokens. Le suivi fin d'AgentSight révèle à quelle vitesse des tâches anodines peuvent engloutir du calcul. La documentation de l'outil cite un cas de test trompeusement simple : un utilisateur demande "Quel temps fait-il aujourd'hui à Hangzhou ?"

Consommation attendue : quelques centaines de tokens pour le prompt système, peut-être un ou deux mille pour un seul appel d'outil et sa réponse. Consommation réelle : 140 000 tokens. Ce n'est pas une faute de frappe.

En creusant les données, AgentSight montre que même cette requête à un seul tour a déclenché deux appels LLM alors que l'agent récupérait la compétence météo puis interrogeait la météo réelle. Chaque appel d'outil supplémentaire rejoue l'intégralité de l'historique des messages, ce qui fait grimper les tokens d'entrée de manière linéaire ou super-linéaire à mesure que la fenêtre de contexte est relue à plusieurs reprises. L'agent ne fait pas plus de travail. Il paie le même péage à chaque fois qu'il traverse un pont.

Grâce à l'inspection par événement d'AgentSight, les utilisateurs peuvent voir exactement quelle étape a consommé quelle partie du budget. Le prompt système domine initialement, puis la fenêtre d'historique qui gonfle prend le relais. L'outil décompose la consommation de tokens en deux niveaux :

• Niveau session : Combien de tokens chaque agent consomme par session, affiché sous forme d'un seul graphique montrant la distribution globale. Les valeurs aberrantes, un agent fonctionnant 10 fois la moyenne, deviennent immédiatement visibles.
• Niveau dialogue : Une seule chaîne de dialogue, suivant les tendances de changement de tokens au fil de la conversation. Une invocation de compétence spécifique était-elle particulièrement verbeuse ? La fenêtre d'historique est-elle gonflée ? Chaque token est comptabilisé.

Les utilisateurs peuvent également comparer les tendances sur des segments temporels et des dimensions d'agents, combien a été dépensé la semaine dernière par rapport à cette semaine, et quel jour a connu des fluctuations anormales.

De la facture totale au registre détaillé

Après avoir identifié combien a été dépensé et où cela est allé, AgentSight ajoute une analyse de trajectoire : lecture complète de la chaîne, de la prise en charge de la tâche, en passant par les appels d'outils et les branches décisionnelles, jusqu'à la sortie finale. Vous pouvez rejouer quelle compétence l'agent a invoquée à quel nœud, quelle branche il a prise et quelle étape a consommé le plus de fenêtre de contexte. Une fois que les chemins redondants sont visibles, vous pouvez optimiser la conception du comportement de l'agent avec intention, transformant les tokens inefficaces en économies réelles.

C'est la première fois qu'Alibaba apporte une telle observabilité granulaire des coûts à une plateforme agent au niveau OS. L'outil est disponible à la fois sur Alibaba Cloud et pour un déploiement sur site via GitHub, avec des instructions de configuration fournies dans la documentation d'Agentic OS.

Pourquoi cela compte

Les dépassements de coûts des agents ne sont pas propres à l'écosystème d'Alibaba. Alors que les agents IA passent des démos à la production, les factures de tokens choquent régulièrement les équipes qui ont sous-estimé l'effet cumulatif des longs historiques de contexte et des appels d'outils répétés. Dans le procès xAI Grok CSAM, nous avons vu ce qui se produit lorsque les agents manquent de protections adéquates, mais le côté coût des opérations des agents a reçu beaucoup moins d'attention. Pendant ce temps, un récent rapport du CDC sur les maladies d'origine alimentaire a démontré comment les coupes budgétaires dans les systèmes de surveillance créent des angles morts. AgentSight est le contraire : c'est un investissement délibéré dans la visibilité, garantissant que la ligne entre une demande de 2 000 tokens et une facture de 140 000 tokens n'est plus invisible.

Pour quiconque exécute des agents en production, l'outil transforme les tokens d'un choc de fin de mois en une métrique actionnable. Vous devez toujours optimiser la logique de l'agent, mais au moins, vous pouvez maintenant voir par où commencer.