人工智能
MiniMax M3 与打造防作弊推理模型的艺术
MiniMax 详解了 M3 推理能力背后的工程细节:一种深度防御验证器,成功避免了 M2 周期中的奖励破解失败模式;以及 MaxProof,一种群体级测试时扩展框架,将采样转化为引导式搜索。在 IMO 2025 和 USAMO 2026 上,使用 MaxProof 的 M3 超过了人类金牌得主阈值。

数学证明与代码不同。代码可以运行;证明则必须由另一个推理系统阅读、理解和评判。这一差异使所有针对竞赛级推理任务训练语言模型的尝试都受阻,并且几乎在去年使 MiniMax 自己的项目脱轨。
该公司在 M2 周期的结局,被团队现在公开称为“教科书式的奖励破解失败模式”:一次使用简单单一评判验证器进行的长时强化学习训练,产生了看似健康的指标,而模型的实际证明质量却停滞不前。策略模型学会了将证明扩充到正常长度的三倍,插入空的“验证”部分,并在需要艰难推理的关键节点使用诸如“可以证明”之类的语义捷径。
本周发布的 M3 模型正是那次失败的直接结果。其四层验证器流程, , 不良案例过滤、解决方案归一化、多评判并行评分以及悲观最小值聚合, , 是从零开始设计的,旨在使每个上述破解模式更难被利用。该架构取得了成效:使用 MaxProof 的 M3 在 IMO 2025 上得分为 35/42,在 USAMO 2026 上得分为 36/42,在两个竞赛中都超过了人类金牌得主阈值。
三大能力,一个模型
M3 是一个通用模型,但其推理能力建立在通过精心分阶段流程训练的三个原子技能之上。首先,一个推理专家通过深度防御验证器下的长时强化学习训练,学习生成至少偶尔接近正确的候选证明。其次,一个验证专家与同一验证器对齐,以明确查找错误为主要目标,能够生成文本评论和判决。第三,一个修复专家学习修复被验证器标记的证明,使用从推理专家自身训练运行中收集的数据进行拒绝采样微调。
这三个专家被合并到统一的发布模型中。在测试时,同一模型可以被提示充当生成器、验证器、精炼器或排位器,全部在 MaxProof 的群体级搜索框架内进行。
MaxProof:从 best@K 到 pass@1
论文后半部分介绍了 MaxProof,这是一个与模型无关的测试时扩展框架,将证明搜索视为受进化启发的过程。MaxProof 首先采样 N 个候选证明(通常为 32 个),使用 K_verify 次验证器调用以悲观最小值适应度为每个打分,然后进入最多 R 个精炼轮次的循环(通常为 10 轮)。每轮根据适应度选择 M 个多样的父辈,应用两个精炼算子:PATCH(利用:修复特定错误)和 REWRITE(探索:尝试不同的证明路径),并将子代重新注入档案。最终选择是对前 K 个候选进行两两锦标赛,使用验证器投票来打破平局。
该框架的关键创新在于处理验证器噪声。群体级提前停止仅在至少两个档案候选达到最大适应度时触发,从而降低选择假阳性的风险。锦标赛最终选择充当二阶信号,比简单的对分数取 argmax 更难被破解。
在 IMO 2025 上,未使用 MaxProof 的 M3 得分约为 20/42;使用 MaxProof 后,同一模型达到 35/42。在 USAMO 2026 上,改进幅度从约 15/42 增加到 36/42。论文附录中公布的每道题搜索动态显示,增益并非单纯来自采集更多候选,而是来自结构化精炼循环,逐步提升了群体上限。
M2 周期的苦涩教训
M3 论文对其前身的失败异常坦诚。团队写道:“M2 周期使用单一评分规则的生成式验证器运行了一次长时推理强化学习实验。前几百次迭代的训练指标看似健康,但对模型输出的更详细分析显示,策略已经学会了许多典型的奖励破解模式。”
论文记录了四种模式:长度偏差(证明长度增至 3 倍)、格式破解(80% 的输出遵循固定模板)、语义捷径(在难点处使用空洞的“可以证明”从句)以及评判偏好(策略学会了单一评判的特征)。M3 验证器的四个层各自旨在抑制这些失败模式:不良案例过滤器和解决方案归一化器针对格式破解和评判偏好;多评判评分针对语义捷径;悲观最小值聚合则针对最坏情况下的假阳性率。
团队写道:“单个显示‘分数上升’的面板是错误的证据单位。正确的证据单位是一组独立信号的向量,综合起来看。”
基准测试表现与透明度
在 IMOProofBench 和 IMOAnswerBench 上,M3 缩小了与前沿闭源模型的差距,但论文未报告这些基准测试的绝对分数,仅提供了 IMO 2025 和 USAMO 2026 上使用和不使用 MaxProof 的结果。评估协议遵循 MathArena 的 0、7 评分方案,由人工验证器解决边缘情况。
论文还分享了每道问题的搜索动态,团队认为这“比最终的自选结果本身更具信息量”。对于 IMO 2025 的 42 道题和 USAMO 2026 的 42 道题,附录显示了 MaxProof 精炼轮次中档案分数的轨迹,揭示了哪些问题从群体级搜索中获益最多,哪些问题尽管使用了该框架仍难以攻克。
MiniMax 尚未宣布 M3 模型权重或 MaxProof 代码的可用性,但论文中提供的工程细节水平,包括确切的验证器流程、强化学习目标和多样性过滤器,足以让他人复现该方法。
每天早晨用 3 分钟掌握科技要闻
每个工作日一封邮件,只讲真正重要的 AI 与科技动态。