基础设施智能
Token陷阱真实存在:阿里Agentic OS 让你看清每一分钱去向
阿里云的 Agentic OS (ANOLISA) 现已包含 AgentSight,这是一个可观测组件,能精确揭示代理在每个会话、每次对话、每次技能调用中如何消耗 token。当代理在琐碎任务上消耗数万个 token 时,该工具有望将模糊的月度账单转化为可操作的支出账本。

阿里云于 3 月发布了 Agentic OS (ANOLISA),称之为业界首个面向代理的操作系统。市场反响热烈,但用户最常问的问题直指成本核心:如何最小化 token 消耗?
这个问题背后隐藏着一个更深层的问题。多代理系统中的 token 消耗长期以来一直是个黑箱。你只能看到月底的总数,却无法了解是哪个代理、哪个步骤或哪个决策分支吞噬了预算。随着代理部署从演示原型扩展到处理工单、巡检和客户请求的生产负载,这种不可见性如今已成为一种负担。
于是,AgentSight 应运而生。这是 Agentic OS 在最新更新中推出的可观测组件。AgentSight 承诺将黑箱转变为透明账本,提供会话级和对话级的粒度、实时告警以及全链路轨迹回放。对于任何在生产环境中运行 AI 代理的团队来说,该工具既是调试助手,也或许是经济上的必需品。
看不见的,就无从削减
AgentSight 的可视化面板解决了代理运营中的核心矛盾:你让代理 24/7 运行,却无法全天候监控它们。旧模式是第二天早上才发现静默的后台崩溃,或关键任务中断却没有告警。新面板让代理健康状况一目了然:哪些在线、哪些离线、哪些卡住,从全局概览到单次对话,实时刷新。
当代理离线或挂起时,AgentSight 不仅标记错误,还会自动发送告警并可触发重启,减少人工干预。每一次心跳都暴露无遗。
14 万 token 的天气查询
真正的杀手是 token 浪费。AgentSight 的细粒度追踪揭示了看似简单的任务如何迅速消耗算力。该组件的文档引用了一个看似简单的测试案例:用户询问“杭州今天天气如何?”
预期消耗:系统提示词几百个 token,单个工具调用和响应大约几千个 token。实际消耗:14 万 token。这不是笔误。
深入数据后,AgentSight 显示,即便是这个单轮查询也触发了两次 LLM 调用:代理先获取天气技能,再查询实际天气。每次额外的工具调用都会重放整个消息历史,导致输入 token 随着上下文窗口反复读取而线性甚至超线性增长。代理并未做更多工作,而是每次过桥都支付同样的过路费。
通过 AgentSight 的单事件检查,用户可以精确看到哪个步骤消耗了哪部分预算。系统提示词最初占主导,随后膨胀的历史窗口取而代之。该工具将 token 消耗分为两个层级:
- 会话级:每个代理每会话消耗的 token 数量,以单一图表显示全局分布。异常值, , 如运行均值 10 倍以上的代理, , 立即显现。
- 对话级:单一对话链,跟踪对话中的 token 变化趋势。某个特定技能调用是否特别冗长?历史窗口是否膨胀?每个 token 都有交代。
用户还可以跨时间段和代理维度比较趋势:上周花了多少,这周花了多少,哪一天出现异常波动。
从总账单到明细账本
在查明花了多少和花在哪里之后,AgentSight 增加了轨迹分析:从任务接收、工具调用、决策分支到最终输出的全链路回放。你可以重放代理在哪个节点调用了哪个技能、走了哪个分支、哪个阶段消耗了最多的上下文窗口。冗余路径一旦可见,你就能有针对性地优化代理行为设计,将无效 token 转化为真正节约。
这是阿里首次在操作系统层面为代理平台带来如此细粒度的成本可观测性。该工具可在阿里云上使用,也可通过 GitHub 进行本地部署,设置说明见 Agentic OS 文档。
为什么这很重要
代理成本超支并非阿里生态独有。随着 AI 代理从演示走向生产,token 账单常常让团队措手不及,因为他们低估了长上下文历史和重复工具调用的复合效应。在 xAI Grok CSAM 诉讼中,我们看到了缺乏适当保障的后果,但代理运营的成本方面受到的关注却少得多。与此同时,最近一份 CDC 食源性疾病报告展示了监控系统预算削减如何造成盲区。AgentSight 则恰恰相反:它是对可见性的刻意投资,确保 2000 token 的请求与 14 万 token 的账单之间的界限不再隐形。
对于任何在生产中运行代理的人来说,该工具将 token 从月末的意外转变为可操作的指标。你仍然需要优化代理逻辑,但至少现在你知道从何处入手。
每天早晨用 3 分钟掌握科技要闻
每个工作日一封邮件,只讲真正重要的 AI 与科技动态。