模型压缩
2 published articles
大语言模型与模型5 min read
本地部署的工厂AI，arXiv预印本
压缩让一个工厂助手损失了13.7%的答案质量
一篇新预印本主张，一旦模型经过压缩并以检索进行适配，参数量就不再能预测车间助手所给答案的质量。其唯一一项案例研究因提取损失13.7%的经评判质量，并挽回了其中三分之二。
2026-09-25
大语言模型与模型Featured5 min read
大语言模型与模型
Mistral 级联蒸馏：在不牺牲推理能力的前提下压缩大语言模型
Mistral 的级联蒸馏技术将大模型压缩为小模型，同时保留了推理和视觉能力。3B 变体所具备的能力过去需要十倍于其参数的模型才能实现，且全部采用 Apache 2.0 许可证。
2026-07-17