OpenAI 的审核系统标记了枪手，其领导层据称保持沉默

这些案件中对 OpenAI 最危险的证据，可能恰恰是其自身系统确实发挥了作用的证明。周三在加州联邦法院提起的 30 起新诉讼指控该公司及其首席执行官 Sam Altman 为加拿大 Tumbler Ridge 校园枪击事件的嫌疑人提供了“实质性协助与怂恿”，据 The Verge 报道。原告在袭击发生时正在学校内：包括学生、教师和校长。

这些诉状描述的不是一次审核失灵。它们描述的是一次成功审核之后的据称沉默，而这种倒置正是让 OpenAI 在公开场合更难回应这起诉讼的原因。一家公司可以把责任推给有缺陷的模型。但要解释为何在其自身标记亮起后没有人采取行动，则要困难得多。

一次标记，换来的据称沉默

OpenAI 的自动化审核系统，诉讼称，标记了被指控的枪手 Jesse Van Rootselaar 与 ChatGPT 之间关于枪支暴力的对话。诉状称，安全团队建议联系加拿大当局。但他们指控说，全球事务首席官 Chris Lehane 参与了一项保持沉默的决定，这一决定与对公司“声誉和财务状况”的担忧有关。

停用一个账号，而非封禁一名用户

诉讼文件中还有第二项更具操作性的指控，归结为一个选择。诉状称，OpenAI 选择停用一个账号，而不是发布全系统封禁。这样 Van Rootselaar 就可以用另一个邮箱重新注册并继续使用 ChatGPT。

诉状将这一细节转化为案件的法律核心。“让枪手持续使用这一工具本身就构成了实质性协助，”他们指控称，并补充说这种访问“是促使枪手策划并实施袭击的关键因素。”

否认，以及在其他地方累积的案件

OpenAI 否认了对其内部流程的这种描述。首席战略官 Jason Kwon 在 X 上的一篇帖子中，被 The Verge 引用，称诉状中包含有关公司安全团队的“虚假指控”。他写道，称“处于这些艰难决策中心的人不把安全放在首位，或者说存在‘政治’或‘公共关系’因素”，这“完全是不真实的”。

Kwon 的回应为做出这些决定的人辩护。诉状针对的则是将决定提交给他们的系统：什么被标记，什么被升级，以及当这两者出现分歧时会发生什么。

这些新案件并非首次尝试。受害者家属在 4 月提起了类似诉讼，佛罗里达州也正在推进自己的指控，称 OpenAI 协助和教唆了大规模枪击者，包括去年佛罗里达州立大学袭击事件的嫌疑人。每一个版本都建立在同一个主张上：当一家公司的产品及其审核选择实质性帮助某人实施暴力时，该公司可能要承担责任。

这一主张将这些案件与关于模型说了什么内容的诉讼区分开来。这里没有人认为模型应该拒绝提示。争论点在于，OpenAI 看到了一个高风险用户，掌握了他在策划什么的证据，并据称选择了自己的声誉，而不是给加拿大当局打电话。

综合来看，这些诉状描述了一条在最后一环失灵的审核链条。模型不需要产生任何新内容。原告认为，OpenAI 只需要避免把同一工具重新交到一个已被其自身审核标记过的人手中。

诉状和否认声明中都缺失的是内部记录：谁看到了被标记的对话，安全团队的建议何时到达高管层，以及当时权衡了什么。OpenAI 称安全是第一位的。原告称安全被为了商业利益而舍弃。现在，加州联邦法院将审理这一争议。