微软为何向全球开放人工智能安全测试

人工智能红队测试存在一个盲点问题。大多数安全测试都在开发模型的同一家公司内部进行。这能发现明显的问题，但最棘手的故障模式, , 那些只在特定语言、文化背景或攻击场景下出现的问题, , 需要没有任何单一内部团队能覆盖的专业知识。

微软的解决方案是“外部红队联盟”（External Red Team Alliance，简称EXTRA）。该项目今日宣布，资助六大洲的独立研究人员对前沿人工智能系统进行压力测试。该公司已向18个大学实验室提供无限制赠款，包括乔治城大学安全实验室、纽约大学对齐研究小组和加州大学伯克利分校风险与安全实验室。没有可交付成果，也没有产品要求：目标是在全球范围内加强独立安全研究，而不是将其引向微软的优先事项。

该计划有两个部分。第一个是学术性的：为研究人员提供现金资助，以探究人工智能安全中尚未解决的难题。一些实验室正在研究模型在操作环境中如何被攻击或操纵。另一些则在探索相反的方向：人工智能如何帮助防御者改进网络操作。

第二部分是操作性的。微软正在建立一个分布式专家网络，这些专家可以直接参与需要深厚领域知识、特定语言、区域背景或网络安全、生物安全等技术领域的红队演练。其目的是覆盖内部团队无法自行完全应对的攻击面。

这种结构是有意为之。微软的人工智能红队发现，对先进系统进行有意义的测试往往需要传统企业安全边界之外的人员更广泛地参与。微软首席负责任人工智能官娜塔莎·克兰普顿（Natasha Crampton）在公告中表示，管理前沿人工智能风险需要"与理解这些系统在不同技术、语言和文化背景下行为的专家持续互动。"

此举与网络安全的工作原理相似。该生态系统依赖于独立的漏洞研究人员、漏洞赏金计划和协调披露。有观点认为，人工智能安全需要同样类型的外部审查。微软客户安全与信任副总裁兼副总法律顾问迈克·叶（Mike Yeh）指出，理解前沿人工智能如何被滥用需要跨越机构、学科和国界的专业知识。

各国政府也在朝同一方向推动。在最近一届全球人工智能安全峰会上，超过30个国家签署了联合声明，其中包括对前沿模型进行独立部署前测试。EXTRA创造了未来监管可能要求的那种评估能力，尽管这些赠款并未要求微软必须根据研究人员的发现采取行动。

这正是该计划核心存在的紧张关系。无限制资助保留了学术独立性，但也意味着微软可以选择认真对待哪些发现。真正的考验在于，外部红队的测试结果是否能在模型发布前带来具体改变，还是它们会成为行业可以忽略的平行讨论。

EXTRA是朝着更开放的人工智能安全测试模式迈出的有意义的一步。它是否足够，将取决于这些结果的实际影响。