Unsloth
2 published articles
人工智能Featured3 min read
训练优化
Unsloth 声称新 Triton 内核与自动打包技术实现 5 倍 LLM 训练加速
Unsloth 最新更新引入了融合 QK RoPE Triton 内核，实现 2.3 倍旋转嵌入加速；int64 索引支持长上下文；以及自动免填充打包。基准测试显示，Qwen3-32B 模型吞吐量提升 1.7-3 倍，且准确率无损失。
2026-07-16
开源3 min read
模型量化
Unsloth 将 9750 亿参数 Inkling 模型压缩至 270 GB，准确率保留 74%
Unsloth 的动态 GGUF 量化将 9750 亿参数的开放模型 Inkling 从 1.9 TB 压缩至 1 位下的 270 GB，准确率保留 74.2%。该方法有选择性地保留高精度层，从而实现在配备 290 GB 以上 RAM+VRAM 的机器上进行本地推理。
2026-07-16