SevenTnewS

视频生成与游戏引擎

游戏引擎能教会AI什么:保持其世界一致性

视频生成模型常被称为下一代游戏引擎。但如果没有稳固的状态追踪,它们会忘记两帧前发生了什么。一篇新论文剖析了这个问题,并提供了超过90小时的《黑神话:悟空》游戏数据集作为解决该问题的资源。

Emmanuel Fabrice Omgbwa Yasse AI 辅助

2026-07-23 · 阅读需 5 分钟

游戏引擎能教会AI什么:保持其世界一致性
来源 : From Pixels to …

十年来,科技界一直承诺生成式AI最终将取代游戏引擎。给模型输入几帧玩家在森林中奔跑的画面,让它推断出后续帧,然后, , 瞧吧:无限、可响应的世界,无需一个多边形。这是一个诱人的愿景,而视频生成模型已经足够出色,使得这个炒作开始听起来可行。

但任何真正构建过交互系统的开发者都知道问题所在。一个训练用于预测像素的生成模型,对血条是什么、三分钟前打开的门应该保持打开状态、或是玩家背包在不同场景间持续存在,毫无概念。它只看到帧。而当只有帧时,世界会在玩家每次眨眼时重置。

AlayaLab在2026年7月发布在arXiv上的一篇新论文,标题为从像素到状态:将交互式世界模型重新思考为游戏引擎,严肃对待了这一矛盾。作者们不是问如何让视频生成更真实,而是提出了一个更根本的问题:游戏引擎实际做了哪些生成模型没做的事,我们如何弥合这一差距?

让世界保持活力的循环

论文的核心举措是将传统的游戏引擎循环作为其组织视角。在传统引擎中,流程是:玩家执行动作,该动作根据定义的规则更新显式游戏状态,然后从结果状态中渲染出观察结果。然后循环重复。状态是事实的数据库:玩家位置、存活的敌人数量、哪些门已解锁。

生成模型跳过了状态步骤。它们学习从一系列过去的观察结果和一个动作直接映射到一个预测的下一个观察结果。这在短片段中可行,但在较长的交互中会崩溃,因为模型没有对游戏底层条件的持久表示。

示意图:游戏引擎循环 vs. 生成模型循环
论文对比了传统的游戏引擎循环(其中玩家动作更新显式游戏状态,然后渲染观察结果)与跳过状态步骤并直接预测下一个观察结果的生成模型,如文章所述。

论文将问题组织为四个维度:玩家动作控制游戏状态动态状态-观察持久性实时交互生成。对于每个维度,作者们调查了现有方法,将其归类为不同家族,并列出了各自的权衡。

什么算作规则

状态动态是生成模型与游戏引擎之间差距扩大最快的地方。游戏引擎中的规则说:如果玩家收集了恰好五个徽记,就打开密封的门。生成模型没有等价的规则。它可以学习统计相关性:当玩家携带类似徽记的物体时,门往往会被打开。但它无法可靠地在数千帧中强制执行一个硬性的游戏逻辑条件,尤其是当条件依赖于十分钟前发生的事情时。

论文讨论了几类试图将状态意识注入生成流程的方法。一类方法添加一个独立的状态预测器,与视频生成器并行运行,维护一个对象和条件的显式映射。另一类方法将状态信息直接嵌入扩散模型的潜在空间,使模型自身的表示具有某种持久性。第三类方法试图通过长时程训练,将游戏逻辑提炼到神经网络权重中。

每种方法都有权衡。显式状态预测器是可解释且可调试的,但它们需要人工标注什么算作状态。学习到的状态嵌入避免了标注,但可能随时间漂移,并且在失败时难以审计。

90小时的《黑神话:悟空》

论文的实际贡献是一个围绕游戏科学开发的动作角色扮演游戏《黑神话:悟空》构建的数据引擎。团队收集了超过90小时的游戏画面,包含帧对齐的玩家动作、真实游戏状态和视觉观察结果。每一帧都配有游戏条件的结构化标注:玩家生命值、法力值、装备武器、主动技能、敌人位置等。

作者将其描述为用于状态感知游戏世界建模的资源。研究人员可以使用该数据集训练模型,不仅预测下一帧,还预测下一个状态。动作、状态和观察结果之间的对齐足够精确,可以作为任何声称保持持久性的模型的地面实况基准。

数据集还包括语义标注,这在现有游戏数据集中不太常见。除了数值状态向量,标注还标记了高级条件:玩家在战斗中、玩家在攀爬、Boss生命值低于30%。

该领域的现状

论文并未声称解决了交互式世界生成问题。它做的是为讨论该问题提供了词汇,并为解决它提供了具体资源。语气是克制的,近乎临床,这在一个倾向于对传统游戏开发终结进行狂热宣告的领域中是不寻常的。

作者将其工作定位为一篇附有数据集的综述。但综述本身的结构是更有趣的贡献。通过迫使该领域以动作-状态-观察循环的方式思考,论文揭示了生成模型目前跳过的东西:持久、受规则约束的状态的黑盒子。

无论下一代交互世界运行在物理引擎、扩散模型还是两者之间,可能取决于行业如何认真对待这个问题。目前,论文表明,大多数生成模型将状态视为事后考虑。这对于两分钟的视频片段有效。但对于一个真正有人玩的游戏,这行不通。

每天早晨用 3 分钟掌握科技要闻

每个工作日一封邮件,只讲真正重要的 AI 与科技动态。