红队测试
4 published articles
人工智能4 min read
影响力行动研究
IO Factory的10万智能体沙盒让影响力行动无处遁形
IO Factory将协调一致的AI影响力行动模拟为最多10万个智能体组成的群体，这些智能体适应平台反馈并隐藏在普通社交互动中。论文认为，检测必须追踪整体行动，而非孤立信息。
2026-08-16
人工智能Featured3 min read
人工智能安全
微软为何向全球开放人工智能安全测试
微软已资助六大洲的18个大学实验室，独立地对人工智能系统进行红队测试，承认内部团队无法发现所有风险。
2026-08-07
网络安全1 min read
AI安全
安全并未拖慢AI。它正是AI规模化的关键。
安全团队如何通过提出更好问题（而非收集更多数据）将信任转化为AI时代的竞争优势。
2026-08-06
人工智能3 min read
诚信报告
Stability AI首份透明度报告：向NCMEC报告13起CSAM事件
该报告涵盖了模型安全、红队测试、内容审核以及与执法部门的合作。Stability AI表示，在其训练数据中未检测到CSAM，并对其所有生成模型进行了压力测试，未发现CSAM生成能力。
2026-07-28