Anthropic在开放权重AI模型上的微妙中间立场

指控与澄清

过去几天，一个熟悉的指控在AI政策讨论中再度浮现：Anthropic试图禁止开放权重模型以保护自身业务。这一指控出现之际，据报美国官员考虑禁止美国公司使用中国开放权重模型。作为回应，包括OpenAI和Meta在内的41家科技组织签署了一封公开信，捍卫开放权重AI作为美国领导地位的关键。而在这些喧嚣中，Anthropic被贴上了反开放权重实验室的标签。

CEO Dario Amodei在一篇博客文章中直接反驳了这一说法。他写道：“Anthropic从未主张禁止开放权重模型。不具备危险能力的开放权重模型是一种公共产品。”这一澄清直截了当，但也是关于Anthropic真正意图的更详细论述的开端。

Amodei立场背后的两个噩梦场景

Amodei将其关切围绕两种不同的威胁模型展开，这两种模型他六个月前在一篇题为The Adolescence of Technology的文章中曾阐述过。

他首要的担忧是，威权政府（尤其是中国共产党）可能建造出比美国更强大的AI模型，并利用它们获得永久军事优势或对其本国人民进行深度监控。他写道：“最危险的模型可能是秘密训练、仅交给中国人民解放军用于无人机以及国家安全部用于监控和镇压的模型。”

次要关切是滥用风险。Amodei认为，开放权重模型相比封闭模型具有更高的潜在危害，因为护栏更难应用，且一旦权重发布，监控几乎不可能。但他强调，禁止美国企业使用这些模型“无助于解决这一风险，因为不良行为者不太可能是合法的美国企业。”

三项针对性政策而非全面禁令

Amodei并不支持全面禁止开放权重模型，而是赞同三项具体措施：

• 芯片出口管制：美国应“不向中国出售强大芯片或芯片制造设备，并严厉打击用于获取此类芯片的猖獗走私和变通做法。”由于规模定律意味着中国没有先进芯片就无法构建前沿模型，Amodei认为这是阻止威权优越性威胁的最有效路径。
• 打击工业规模的蒸馏：蒸馏比从头训练计算效率高得多，使中国能够部分规避芯片禁令。Amodei呼吁通过政策干预来遏制这种行为，并指出“开放权重远不如操作背后是一个试图在边疆超越美国的威权国家支持这一事实相关。”
• 对所有足够强大的模型进行强制安全测试：开放和封闭模型在发布前都应经过网络、生物和对齐风险测试。“开放模型是否构成更高风险，以及该风险能否被缓解，这些应从测试中得出，而非预先决定，”Amodei写道。要有效，测试需是全球性的，这虽然困难，但鉴于共同利益，或许是可能实现的结果。

这一三管齐下的议程明确拒绝了全面禁止开放权重，但仍施加了许多开源社区可能抵制的限制。

Anthropic与公开信的一致与分歧

Amodei表示，他同意由41个组织签署的行业信函中的大部分内容：开放权重扩大了AI经济的准入，加强了竞争，并赋予客户更大的控制权。他也同意，对蒸馏的担忧应通过有针对性的法律和商业框架来解决。

但他对信函中的假设提出异议，即开放权重模型使开发保障措施更容易，或者广泛获取必然对防御者比攻击者更有帮助。“在我看来，至少同样可能的是情况恰恰相反，”他写道，并引用了足够强大的AI模型可能将大流行级别的病毒武器化并利用广泛可用的材料的风险，而防御“在最好的情况下也是一项多年的操作任务。”他认为，这种不对称应通过实证测试而非假设来排除。

这对AI政策辩论意味着什么

Amodei的博客文章发布之际，特朗普政府已着手要求对前沿模型进行安全测试，同时行业关于通用测试的提议正获得关注。包括OpenAI、Meta等在内的一个联盟已呼吁围绕蒸馏制定有针对性的法律框架，这与Amodei呼吁针对方法而非产出的措施相呼应。

Anthropic还在大力投资政策基础设施。该公司最近将其政策押注翻倍至4000万美元，并指出其自身的《先进AI框架》是任何前沿实验室中最强有力的政策提案。Amodei今天的博文填补了这一支出背后的叙事：一个试图在制定监管时不疏远依赖开放模型的开发者社区的实验室。

其结果是一个可能很少让纯粹主义者满意的立场。强硬的开源倡导者会将安全测试视为控制的暗门。国家安全鹰派可能会认为蒸馏和芯片措施不够充分。但Amodei的论点是，中间立场是唯一实际上同时解决技术风险和好处的立场。这一中间立场能否维持下去，将取决于政策制定者下一步的行动。