Ollama acaba de reescribir su motor para Apple silicon. La generación M5 es la verdadera historia

Durante el último año, ejecutar modelos de lenguaje grandes localmente en una Mac implicaba aceptar un compromiso: la conveniencia de la memoria unificada de Apple frente a una brecha de rendimiento constante frente a equipos basados en NVIDIA. La versión preliminar de Ollama, anunciada el 30 de marzo de 2026, busca cerrar esa brecha reconstruyendo su backend de Apple silicon sobre MLX, el framework de aprendizaje automático de Apple.

El resultado no es una mejora incremental. En un Mac Studio M5 Ultra con 512 GB de memoria unificada, Ollama 0.19 alcanza una velocidad de prefill de 1.851 tokens por segundo y una tasa de decodificación de 134 tokens por segundo utilizando el modelo Qwen3.5-35B-A3B en cuantización int4. Estas cifras, de benchmarks realizados el 29 de marzo, duplican con creces lo que la implementación anterior basada en llama.cpp ofrecía en el mismo hardware.

Por qué MLX cambia las reglas del juego

La ventaja clave de MLX en Apple silicon es su capacidad para explotar la arquitectura de memoria unificada que durante mucho tiempo ha sido un punto de venta pero un cuello de botella de software. Los modelos que anteriormente tenían que mover datos entre regiones de memoria de CPU y GPU ahora pueden operar en un único grupo de memoria con una latencia significativamente menor. En los chips M5, M5 Pro y M5 Max, Ollama también aprovecha los nuevos Aceleradores Neuronales GPU, bloques de silicio dedicados diseñados específicamente para operaciones matriciales de tipo transformer.

No se trata solo de velocidad. El backend MLX trae la cuantización NVFP4 a Ollama por primera vez. NVFP4, un formato desarrollado por NVIDIA pero ahora adoptado por MLX, utiliza representación de punto flotante de 4 bits que preserva más precisión del modelo que el esquema Q4_K_M utilizado en versiones anteriores de Ollama. Esto importa para los desarrolladores que necesitan que los resultados de inferencia local coincidan con las salidas de producción de los proveedores de nube, exactamente el caso de uso que el equipo de Ollama señaló: “A medida que más proveedores de inferencia escalan usando el formato NVFP4, esto permite a los usuarios de Ollama compartir los mismos resultados que tendrían en un entorno de producción.”

El acelerador de agentes de codificación

La segunda mejora importante de Ollama en esta vista previa es un sistema de caché rediseñado. Los flujos de trabajo de agentes, donde un asistente de codificación se ramifica a través de múltiples llamadas a herramientas, cada una con un prompt de sistema largo, han sido un punto débil para la inferencia local porque cada nueva rama desencadena un reprocesamiento completo del prompt. Ollama ahora reutiliza la caché entre conversaciones, almacena puntos de control inteligentes en ubicaciones estratégicas del prompt y aplica una política de desalojo más inteligente que mantiene vivos los prefijos compartidos por más tiempo, incluso cuando se descartan ramas más antiguas.

Para herramientas como Claude Code, OpenCode o el de código abierto OpenClaw, esto significa menos tiempo de espera para el procesamiento del prompt entre iteraciones. Un desarrollador que pida al modelo refactorizar una función, probar el resultado y luego intentar un enfoque diferente verá que el segundo y tercer intento se ejecutan con una latencia de prefill casi nula si el prefijo del prompt es compartido.

NVIDIA y Apple, juntos en una misma pila

Uno de los aspectos más inesperados de este lanzamiento es la colaboración entre NVIDIA y Ollama en la pila nativa de Apple. La sección de agradecimientos del lanzamiento menciona a los contribuyentes de NVIDIA en la cuantización NVFP4, el optimizador de modelos NVFP4, el soporte CUDA para MLX, y las optimizaciones y pruebas de Ollama. Para una empresa cuyas GPU son el principal competidor de Apple silicon en el mercado de estaciones de trabajo de IA, la participación de NVIDIA indica que NVFP4 se está convirtiendo en un formato de cuantización estándar que tanto las GPU como las cadenas de herramientas de Apple silicon deben soportar.

Esto también abre la puerta para que Ollama ejecute modelos optimizados por el optimizador de modelos de NVIDIA, una tubería típicamente restringida a entornos CUDA, en hardware Apple. La pregunta es cuánto durará la exclusividad: el equipo de Ollama señala que otras precisiones estarán disponibles “basándose en el diseño y la intención de uso de los socios de investigación y hardware de Ollama.”

Qué significa esto para el ecosistema local de LLM

La vista previa de MLX de Ollama está, por ahora, limitada a un solo modelo: Qwen3.5-35B-A3B, una arquitectura MoE de 35 mil millones de parámetros que activa solo 3 mil millones de parámetros por token. El modelo incluye parámetros de muestreo ajustados para tareas de codificación. Los usuarios con una Mac de la serie M y más de 32 GB de memoria unificada pueden probarlo inmediatamente mediante ollama run qwen3.5:35b-a3b-coding-nvfp4.

Pero el soporte limitado a un modelo es temporal. El lanzamiento afirma que Ollama está “trabajando activamente para soportar modelos futuros” e introducirá una ruta de importación más fácil para fine-tunes personalizados. Dado que el backend anterior de llama.cpp de Ollama soportaba cientos de arquitecturas, es probable que la rama MLX se expanda rápidamente, especialmente para la familia de modelos Qwen, DeepSeek y Llama, que ya están ajustados para hardware Apple.

El panorama general es que la inferencia local en Mac ya no es un compromiso. Para los desarrolladores cuyo flujo de trabajo diario gira en torno a agentes de codificación y que están dispuestos a invertir en una máquina M5 Ultra, las cifras de esta vista previa sugieren paridad con hardware NVIDIA de consumo por primera vez. Los próximos seis meses determinarán si esa paridad se mantiene en más modelos y cargas de trabajo más complejas. Por ahora, Ollama ha trazado una línea clara: la generación M5 es donde Apple silicon finalmente llega como una plataforma de inferencia de primera clase.