MGT-B控制器将量化LLM在MATH-500上的得分提升4.5个百分点

量化的小型语言模型节省了内存和推理成本，但它们也容易“走神”，产生冗长、重复或低效的推理链条，且缺乏内在的察觉机制。El Hassane Ettifouri于2026年7月22日发布在arXiv上的一篇新预印本，正针对这一盲点，提出了一种名为MGT-B（监控引导的测试时回溯）的轻量级外部控制器。

MGT-B构建于早期的token级e-CUSUM控制器之上。它监控预采样不确定性和退化特征的滑动窗口，将这些特征映射到经验尾部概率，并通过带有CUSUM形式重置的投注因子进行累积。当警报触发时，控制器估算一个回滚点，恢复token和键值缓存状态，并从该位置开始进行受限的重新解码。

关键问题是，这种机制是否真的能提升准确性。论文报告了两项分析。一个时间审计集包含240个问题对，旨在排除可能影响手动选择对数阈值h=10的数据，结果显示准确率从82/240提升到88/240，增长了2.5个百分点。精确McNemar检验p值为0.2632，表明结果在常规水平上无统计学显著性。

一个涵盖更广历史数据的467个种子匹配对集显示了更显著的变化：从146/467到167/467，增长了4.5个百分点，McNemar检验p值为0.000753。但作者坦承了局限性。该集合包含200个种子1的ID，这些ID在选择阈值时或之前就已存在，因此该分析仅作为探索性报告，而非确证性。

选择性修正，无警报路径无回归

数据中的一个清晰信号是：在467对集合中，所有316个未触发警报的输出都与原始基线完全相同。151条触发警报的轨迹中包含29次修正和8次回归，这意味着控制器在多数情况下有益，但并非普遍适用。

论文谨慎地声明，未提供广泛的理论保证。这些结果支持针对特定MATH-500场景的选择性监控和修复机制，而非提升小模型推理能力的通用方法。作者还指出，MGT-B所使用的经验因子尚未被确认为有效的e过程或e检测器；该论文是一个经验原型，而非正式的统计框架。

对于在数学推理基准上使用量化小模型的实践者来说，MGT-B提供了一种具体、轻量级的附加组件，它似乎能纠正多于其引入的错误。但效果幅度有限，评估规模较小，且作者未声称该方法能迁移至其他领域或模型规模。

这篇预印本最好被理解为一个展示, , 在特定场景下，推理时监控和回滚能够奏效，且其局限性已得到充分承认。它并未质疑《验证视界：无银弹》分析中的结论, , 即奖励和验证信号仍是人工智能领域的一个难题；相反，它为工具箱增添了一项具体、有限的技术，而非通用解决方案。