Stability AI首份透明度报告：向NCMEC报告13起CSAM事件

Stability AI于2025年7月发布了其首份年度诚信透明度报告，覆盖2024年4月至2025年4月期间。这份发布在公司儿童安全页面上的文件，披露了提交给NCMEC的CSAM报告数量、其红队项目的指标，以及嵌入其图像、视频、3D和音频模型中的安全保障措施。

最突出的数字是向NCMEC提交了13起报告。该公司表示，当检测到同一用户多次上传图片尝试时，可能会提交多份报告。在报告期间，公司的训练数据集中未发现CSAM，其任何生成式AI模型在压力测试后也未展现出生成CSAM或儿童性剥削材料（CSEM）的能力。报告还指出，没有用户提交的CSAM报告到达Stability AI。

分层安全堆栈

Stability AI的安全方法基于三个层级：过滤训练数据、在模型和平台层面防止滥用，以及执行其可接受使用政策。训练数据来自开放数据集、公开网站、第三方合作伙伴以及研究人员生成的合成数据。该公司表示，它使用内部和开源的NSFW分类器，以及来自Thorn's Safer和互联网观察基金会的行业CSAM哈希列表，对训练数据进行预过滤。未检测到CSAM。

在平台API级别，Stability AI运行实时内容过滤器和分类器，阻止违反政策的输入和输出，并集成来自Thorn的CSAM哈希技术以检测和阻止已知CSAM。在模型级别，公司应用基于结构化红队测试的微调和安全LoRA。红队测试覆盖了公司100%的生成式AI模型。公司还与英国执法单位Online CSEA Covert Intelligence Team（OCCIT）合作，在其Stable Diffusion 3模型发布前进行了测试，未发现CSAM生成能力。

溯源差距

报告承认，通过C2PA元数据实现的内容溯源仅适用于API生成的图像、视频和音频（wav格式，用于音效和乐器片段，公司称其不涉及CSEM风险）。公开发布的模型不包含C2PA标签。公司表示，非C2PA水印解决方案存在挑战，会降低图像输出质量，并继续探索更有效的方法。

"对于我们公开发布的模型，内容生成过程中尚未实现内容溯源。这些领域需要进一步努力，以加强我们系统的溯源和追踪能力。"

合作伙伴关系与未来展望

除了透明度报告，Stability AI一直在扩大其商业版图。该公司在Amazon Bedrock上推出了Image Services套件，将Inpaint、Erase、Remove Background和Style Transfer等工具引入AWS基础设施。它还宣布与Electronic Arts建立战略合作伙伴关系，共同开发用于游戏开发的生成式AI模型和工作流程，首先从加速PBR材质的创建和通过提示预可视化3D环境开始。

透明度报告本身表示，公司正在关注监管动态，并计划使其实践与新兴的负责任AI框架保持一致。