1 published article
系统设计 / 大语言模型基础设施
在417个智能体任务中,尽管GPT-4.1标价更低,其实际成本却几乎是Sonnet的两倍, , 因为缓存而非基础定价主导了成本。本文深入探讨为何将模型路由视为分类处理时总会失败,以及如何构建同时优化成本、延迟与准确性的路由器。
2026-07-15