SevenTnewS

AI研究

AI智能体把记忆留在模型之外,Metis将其放进模型内部

MemTensor的Metis是记忆基础模型的第一个原型:历史被压缩进主干网络,通过记忆注意力读回,并在一次前向传播中完成更新。它向智能体记忆的向量存储时代发起挑战。局限已被承认,但尚未被量化。

Emmanuel Fabrice Omgbwa Yasse AI 辅助

2026-07-30 · 最后更新:2026-08-02 · 阅读需 4 分钟

AI智能体把记忆留在模型之外,Metis将其放进模型内部

如今推理已内置于AI模型,多模态亦然。记忆则是智能体仍在外包的能力。它存在于外部模块中,在实践中通常意味着模型按需查询的向量数据库。

为什么记忆一直留在模型之外

本网站早前对三十个支撑AI技术栈的代码仓库所做的盘点,将向量数据库称为记忆层。那项盘点发现,几乎每个RAG技术栈都需要一个向量存储,其中有五个数据库上榜。存储层也并非一成不变:更新的引擎不断加入融合算法,例如对规模不敏感的行业标准Reciprocal Rank Fusion。

按照作者的说法,所有这些进展都处于外围。将记忆留在模型之外,意味着模型无法优化历史信息被压缩、存储和检索的方式,因为完成这些工作的机制是外挂的,而非模型的一部分。这正是Metis要填补的空白。

Metis:主干网络内部的记忆状态

Metis来自一个以MemTensor名义发表成果的团队,于2026年7月29日发布在arXiv上,被呈现为作者所称的记忆基础模型的第一个原型。这一构想包含两个部分。一个持久且动态演化的记忆状态位于模型的主干网络内部。同时,模型获得了原生的记忆流程:它通过自身的计算来存储和使用信息,而不是依赖外部模块。

在架构上,历史信息被压缩进模型,并通过作者所称的记忆注意力(memory attention)读回。他们构建了大规模的记忆专用训练数据,并在中期训练阶段使用多个优化目标来教授这些流程。接下来是一个让该项目不止于口号的操作细节:在线记忆维护不依赖梯度。更新记忆只需一次前向传播,推理时学习到的权重保持冻结,而记忆状态本身通过标准前向计算完成变换。

简而言之,模型不会为了记忆而被重新训练,也不会到存储中去寻找自己的记忆。前向计算既是思考,也是记忆。

这逆转了智能体技术栈已经定型的分工:

当前的智能体记忆Metis
历史存储在哪里外部模块,通常是向量存储主干网络内部的持久状态
如何更新在模型外部建立索引和管理不依赖梯度;单次前向传播
如何读取按需查询,RAG风格对压缩历史的记忆注意力
如何习得与模型分开构建端到端的中期训练目标

尚未被证明的部分

需要精确区分这份发布物声称了什么、没有声称什么。摘要称实验展示了原生记忆能力,并承诺"对其优势、局限和行为的详细分析。"数字并不存在,至少不在已发布的摘要中:它没有引用任何基准分数,没有与RAG流水线进行直接对比,也没有给出一个记忆状态能容纳多少历史的数字。局限被承认了,但没有被列举。

这些都算不上对第一个原型的否定。作者公开了项目和模型检查点,这正是独立验证得以实现的条件。

如果记忆走向原生,什么会改变

这一押注的形态很清晰。智能体技术栈一直把记忆当作管道:记录进入存储,模型按需检索。Metis则提议将记忆视为一种模型能力,进行端到端学习。作者声称原生方法有三个优势:架构、端到端优化和效率。其论据是结构性的,而非一系列基准测试的胜利。

如果这一说法成立,检索步骤将从智能体循环中消失,连同向量存储、嵌入流水线以及维持它们一致性的索引工作一起。存储和回忆将成为执行推理的同一次前向传播的一部分。那将是一种真正不同的架构。

与之相对的是,外部层仍在改进而非衰退,Metis内部的不确定性是真实的:有多少历史能被压缩进一个记忆状态,冻结权重的设置在长时间跨度上如何维持,以及作者自己的局限清单里包含什么。摘要只说局限存在,却没有展示它们。这是这个大胆第一步中诚实的空白。

Metis是一篇论文和一组检查点,而非已发布的产品。初代原型通常会过度推销,而这一次,它有着罕见的自律,即使没有详细说明也承认了自己的局限。方向才是关键:智能体已将推理和多模态内化,而记忆仍是外挂的能力。如果Metis是对的,向量数据库将成为AI技术栈中下一个被拉入模型内部的部分,一次前向传播接着一次前向传播。

每天早晨用 3 分钟掌握科技要闻

每个工作日一封邮件,只讲真正重要的 AI 与科技动态。