可扩展性
4 published articles
NLP与机器学习3 min read
研究
共享记忆是把双刃剑：将演员-评论家算法扩展到五个以上智能体时回报递减
研究人员在参数化动作任务中跨演员-评论家智能体共享回放缓冲区。GAC的性能大幅提升，但SAC和TQC仅有微小进步。超过五个智能体后，计算成本上升，却无实质性回报。该论文为共享经验方法的扩展极限提供了一个实用边界。
2026-07-27
工具与框架2 min read
基础设施深度解析
Nous Research 通过 DeepEP 扩展专家并行：MoE 预训练的现场记录
Nous Research 发布使用 DeepEP 扩展 MoE 专家并行的现场记录。详细介绍了吞吐量、配置权衡以及预训练 1T 参数 MoE 模型时遇到的瓶颈。为大规模分布式训练提供了实用的部署见解。
2026-07-19
人工智能4 min read
内存管理
mimalloc：微软的微型内存工作引擎，正静默驱动大规模AI应用
微软研究院的 mimalloc 内存分配器专为高并发和大内存规模设计，正静默驱动大规模AI与云服务。其采用线程本地设计与数千个空闲列表，最大限度减少竞争，兼具速度与内存效率。
2026-07-03
NLP与机器学习4 min read
合成数据
没有老板，没有瓶颈：点对点框架重塑合成数据生成方式
Matrix是一个去中心化框架，通过分布式队列传递序列化消息，实现多智能体合成数据生成。通过消除中央协调器，在相同硬件上实现了2到15倍的吞吐量提升。
2026-06-06