Ollama 0.30 trae inferencia GPU más rápida y soporte nativo de modelos GGUF

Ollama acaba de lanzar la versión 0.30, y aborda las dos cosas que más molestan a la gente al ejecutar LLMs localmente: el rendimiento de la GPU y la compatibilidad de modelos. La actualización afirma ganancias de rendimiento de hasta un 20% en hardware NVIDIA y extiende la aceleración GPU a más dispositivos a través del soporte predeterminado de Vulkan, mientras profundiza los vínculos con el ecosistema de modelos GGUF.

Inferencia más rápida, mayor alcance

El gran titular aquí apunta a los usuarios de NVIDIA. Ollama 0.30 incorpora optimizaciones de los equipos de NVIDIA y llama.cpp, y el equipo cuantificó los resultados utilizando un modelo Gemma 4 26B con cuantización Q4_K_M en una RTX 5090. Las ganancias reales variarán según el modelo, el hardware y la cuantización, pero un 20% es una mejora significativa para los desarrolladores que ejecutan bucles de inferencia local.

Más importante para la mayoría de las personas: la aceleración GPU Vulkan ahora está activada por defecto. Antes, los usuarios de GPU AMD o Intel a menudo tenían que instalar bibliotecas específicas del proveedor o ajustar la configuración para obtener inferencia respaldada por GPU. Ahora Ollama maneja esa complejidad, por lo que los modelos se ejecutan en la GPU de fábrica en más dispositivos.

Expansión del ecosistema GGUF

Ollama 0.30 expande la compatibilidad de modelos GGUF para incluir familias de modelos como LFM y Prism, además de modelos ajustados de Unsloth. Esto es importante por dos razones. Primero, los usuarios pueden descargar archivos GGUF directamente desde Hugging Face y ejecutarlos a través de un flujo de trabajo simple de Modelfile sin necesidad de conversión. Segundo, alinea a Ollama más estrechamente con el ecosistema más amplio de LLM de código abierto, donde GGUF se ha convertido en el formato cuantizado predeterminado para la implementación local.

El flujo de trabajo es sencillo: descargue un archivo GGUF (o un directorio de ellos), cree un Modelfile que lo señale, luego ejecute ollama create y ollama run. Si el modelo admite llamadas a herramientas, Ollama hereda esa capacidad, permitiendo la integración con agentes de codificación como Claude Code, Hermes Agent y OpenClaw a través de un solo comando ollama launch. Los usuarios pueden verificar el soporte de herramientas con ollama show my-model.

Posicionamiento estratégico

Esta versión consolida la apuesta de Ollama por el ecosistema GGML, que sustenta a llama.cpp y al movimiento más amplio de IA local. Al predeterminar Vulkan y aceptar archivos GGUF de forma nativa, el proyecto reduce la brecha entre la implementación a nivel de aficionado y el plug-and-play. Para los desarrolladores que construyen herramientas de IA locales, asistentes personales, agentes de codificación o flujos de trabajo personalizados, Ollama 0.30 reduce la barrera de entrada sin exigir una marca específica de GPU.

La actualización también apunta silenciosamente a una dinámica competitiva: a medida que los costos de inferencia en la nube siguen siendo impredecibles para uso de alto volumen, los ejecutores locales como Ollama ofrecen latencia predecible y cero costos de API. Un soporte GPU más rápido y una mayor compatibilidad de hardware solo fortalecen ese argumento.

Ollama 0.30 ya está disponible para descargar en macOS, Linux y Windows.