Unsloth
2 published articles
IAFeatured3 min read
Optimización del Entrenamiento
Unsloth afirma entrenamiento de LLM 5 veces más rápido con nuevos kernels Triton y empaquetado automático
La última actualización de Unsloth introduce kernels Triton QK RoPE fusionados para embeddings rotatorios 2.3 veces más rápidos, indexación int64 para contexto largo y empaquetado automático sin relleno. Los benchmarks muestran un rendimiento 1.7-3 veces mayor en Qwen3-32B sin pérdida de precisión.
2026-07-16
Código Abierto3 min read
Cuantización de modelos
Unsloth reduce el modelo Inkling de 975B a 270 GB con una retención de precisión del 74%
La cuantización dinámica GGUF de Unsloth reduce Inkling, un modelo abierto de 975 mil millones de parámetros, de 1,9 TB a 270 GB en 1 bit con una retención de precisión del 74,2 %. El método preserva selectivamente las capas de alta precisión, permitiendo inferencia local en máquinas con 290 GB de RAM+VRAM.
2026-07-16