SevenTnewS

研究论文分析

为何每个AI代理都需要一个栈:解决工具爆炸问题的形式化架构

一种针对AI代理的分层、基于技能的架构解决了扁平工具注册表的瓶颈问题。通过将能力组织成树状结构并使用基于栈的执行循环,它随工具数量以次线性方式扩展,同时为数字支付等受监管领域提供执行隔离和可审计性。

Emmanuel Fabrice Omgbwa Yasse AI 辅助

2026-07-21 · 阅读需 5 分钟

为何每个AI代理都需要一个栈:解决工具爆炸问题的形式化架构
来源 : A Formal Hierar…

每个AI代理都会遇到同样的设计问题。给它太多工具,模型就无法决定使用哪一个;给它太少工具,复杂任务就无法完成。UPI Help(一个AI驱动的数字支付支持产品)团队的一篇研究论文提出了一种基于旧有概念的解决方案:下推自动机。

这篇论文《一种基于栈执行与延迟发现的形式化分层代理编排架构》将代理能力组织成一棵有根树。内部节点负责路由决策,叶节点执行确定性任务。一个LIFO(后进先出)栈控制单步执行循环,使代理像下推自动机一样拥有记忆。这使它能够处理嵌套执行,并从任意深度干净地返回。

层级结构解决的瓶颈

当前的LLM代理框架通常将每个可用工具加载到一个扁平注册表中。当注册表增长到数百或数千个API时,模型必须在每个推理步骤中评估所有工具。论文称这种现象为‘决策空间爆炸’。上下文窗口饱和,路由精度下降,延迟增加。在拥有256个工具(每个工具的架构字符数为800个)的情况下,论文基准测试中扁平路由超出了上下文限制,成功率为0%。

层级替代方案将能力组织成一个技能树。当代理进入一个决策节点时,它仅通过本地化的JSON清单加载直接子节点的元数据。这种延迟发现协议意味着内存和提示成本随探索路径而非全局注册表增长。在512个工具时,层级系统每个任务使用2,875个输入令牌,并保持100%的路由成功率。扁平基线的上下文限制在256个工具时已被打破,令牌数接近50,000。

基于栈的嵌套工作流控制

论文的主要架构贡献是用形式化的栈纪律取代非结构化的基于对话的编排。每次决策节点调用子技能时,运行时都会将一个上下文帧压入栈中。子技能完成后,其输出仅附加到父节点的本地累加器中。然后帧被弹出,控制权返回到父节点。

这种结构防止了一个执行分支的输出溢出到另一个分支。这对于像支付支持这样的受监管企业环境至关重要。作者写道:‘本地化内存帧提供了在扁平注册表或基于对话的多代理系统中结构上无法获得的隔离保证。不受信任的输出可以被限制在叶级处理。’

栈不变性在数学上被形式化描述:当一个待处理的技能调用指向一个非根节点时,栈顶必须对应那个节点的父节点。运行时而非LLM管理执行流,这减少了深度遍历过程中导航错误的机会。

基准测试揭示了什么

评估将扁平路由和层级路由在多个场景中进行了比较,LLM保持不变。主要发现:

  • 提示可扩展性:在N=128个工具(每个工具架构字符数为800个)时,层级路由每个任务使用约1,733个输入令牌,而扁平路由约为28,178个,减少了16倍。每次调用的架构令牌从17,791个降至277个。
  • 工作流压力:在有噪声的聊天历史和两步任务的条件下,层级系统在N=128时保持约0.73的任务成功率,提示字符数为5.3k;扁平路由则为140k。层级系统的错误动作率和错误选择率接近于零。
  • 代理路由:在N=128个工具(每个工具架构字符数为400个)时,层级系统以3.6k提示字符数实现0.70的任务成功率;扁平路由使用87k。层级系统的错误参数率每次决策为0.05,而扁平路由为0.40。

权衡之处:层级路由使用更多的顺序LLM调用,在N=128时每个任务约10次,而扁平路由为2次,但保持了更低的输入令牌总数。论文指出,‘即使两种架构在相似的任务成功率上收敛,层级提示仍然小一个数量级。’

从理论到支付

该架构是为UPI Help构建的,这是一个处理印度统一支付接口的交易查询、投诉处理和授权管理的AI支持产品。层级编排让根编排器首先选择一个领域(如‘授权操作’),然后仅暴露该领域的子技能用于后续路由。

论文报告称,在技能树完全填充的授权和支付查询系列上,层级系统实现了100%的路由级别成功率,并且每次查询的延迟低于扁平终端基线。包括能力隔离、本地化执行帧和清单级治理元数据在内的安全控制措施,使系统符合高信任度支付支持环境的要求。

更广阔的图景

论文将其定位在Toolformer、Voyager、AutoGen和MemGPT等工作的脉络中。该方法的独特之处在于它对自动机理论的形式化借鉴。基于栈的控制循环将代理从有限状态机转变为下推自动机,为其提供了处理嵌套工作流的上下文无关记忆。

对于构建生产级代理系统的团队来说,该架构提供了一条声明式的扩展路径。新能力可以通过添加兄弟技能(水平扩展)或更深的子编排器(垂直扩展)来实现,只需在父节点的清单中附加JSON条目,无需更改核心路由循环。论文在数字支付领域中的生产环境也表明,这些模式在实际约束下能够有效工作:可审计性、能力边界以及敏感流程的受控执行。

完整论文可在arXiv上查阅。随着代理系统从演示走向生产部署,形式化的编排方法可能变得像模型本身一样重要。

每天早晨用 3 分钟掌握科技要闻

每个工作日一封邮件,只讲真正重要的 AI 与科技动态。