更好的AI检测器可能会让人们更多地使用AI，而不是更少

LLM检测器背后的直觉很简单：捕捉机器撰写的内容，阻止其使用，保护人类的原创性。2026年7月21日发布在arXiv上的一篇新论文表明，现实要复杂得多。这项由Meena Jagadeesan及其同事进行的研究，模拟了当用户知道自己的工作将被扫描以寻找AI痕迹时，他们会如何策略性地做出反应。结果与大多数检测器支持者的预期相反。

模型：能够欺骗系统的用户

研究人员构建了一个简化模型，其中用户选择在多大程度上依赖LLM，以及如何积极地对输出进行后期处理, , 重写、裁剪、添加个性化特征, , 以减少检测器捕捉到的任何信号。检测器本身并不完美，意味着它会把一些人类撰写的内容标记为AI生成（误报），并遗漏一些机器撰写的文本（漏报）。

该模型产生了两个令人惊讶的预测。首先，引入检测器实际上可能会增加LLM的总体使用量。当被抓的概率适中且后期处理成本较低时，用户可能会通过更多地依赖LLM的原始输出然后进行清理来弥补，实际上是用检测回避来换取更多机器帮助。其次，即使后期处理确实提高了输出质量（例如，通过修正事实错误或使语调更平稳），检测器的整体效果也可能导致更差的工作质量。用户将精力花在规避检测上，而不是实质内容上。

现实世界中的模式：检测到的AI语言“先升后降”

作者并未停留在理论上。他们通过分析arXiv摘要中词频随时间的变化，实证再现了模型预测的模式, , 一个清晰的“先升后降”的检测属性。首先，随着采用率的提高，检测到的信号增加；然后，随着用户学会调整自己的写作风格，信号下降。论文认为，当检测器针对表面启发式特征（如某些过度使用的词语或公式化的句子结构）时，也会出现同样的形状。

这对政策和工具设计的重要性

这些结果动摇了AI治理领域的一个普遍信念：更好的检测会自动导致更少的AI生成内容和更高的人类输出质量。如果该模型成立，那么不完善的检测器就会像扭曲因素而不是干净过滤器那样起作用。它们塑造行为，而这种被塑造的行为可能产生与检测器初衷相反的结果。

这篇论文并非完全反对检测。相反，它呼吁将检测器视为干预措施, , 即改变被监控者激励的系统，而不是被动的测量工具。在部署这些工具时没有考虑用户策略性反应的决策者和平台设计者，有可能制造出他们本意要解决的问题。

这项研究为关于AI治理工具意外后果的日益增多的文献做出了贡献，与SkillCoach（关于自我演进的评分标准）和LOCOS（关于识别非字面检索头）等工作并列。这些论文侧重于改进LLM能力和评估，而这篇论文则将镜头向外转，探讨检测行为本身如何重塑它本应监管的生态系统。