微软测试中国模型，Copilot成本或削减高达6亿美元

据The Information报道，微软正准备在Copilot中运行Moonshot AI的Kimi K3模型，此举可能将其AI推理账单削减高达6亿美元。

负责Copilot的工程师计划评估这个2.8万亿参数的开源权重模型是否能够驱动目前依赖OpenAI和Anthropic系统的功能。这些测试并非板上钉钉：微软的工程师必须首先确定Kimi K3是否符合产品对响应质量、可靠性、安全性和延迟的要求。

6亿美元的估算（微软尚未公开确认）反映了在Copilot规模下运行推理的巨额成本。推理是指每次模型接收提示并生成回复时所用的计算。对于一个服务数百万用户并处理大量令牌的服务来说，这些成本会迅速累积。

据一位知情人士透露，微软此前曾测试过DeepSeek模型以及更早版本的Kimi用于Copilot。这些评估表明，该公司认真考虑混合搭配模型，而不是将每个工作负载交给单一提供商。

Kimi K3于7月16日发布，是Moonshot的旗舰模型。该初创公司将其描述为原生多模态模型，拥有100万令牌的上下文窗口，专为编码、知识工作和复杂推理而设计。在某些基准测试中，它在SWE Marathon、BrowseComp、Terminal-Bench 2.1上领先，但在大多数广泛评估中落后于前沿专有模型。其开源权重结构将使微软在Azure上托管和优化该模型时拥有更多控制权。

微软通过其Foundry平台推动这种模型无关的方法，该平台鼓励开发者根据能力、安全性、延迟和成本来选择模型，而不是默认选择最强大的选项。该平台的定价页面已列出早期Moonshot模型，包括Kimi K2 Thinking、K2.5 Thinking和K2.6 Thinking。Kimi K3尚未出现在那里，这与该报道称Azure集成仍在进行中相符。

如果测试成功，这将意味着一个中国开源权重模型运行在微软旗舰AI产品之一中，从而加深该公司与Moonshot的联系，并给目前为Copilot提供动力的美国实验室带来更多定价压力。鉴于潜在节省金额高达6亿美元，这种压力显而易见。