El nuevo chip 'halo' de IA de AMD apunta a lo único que NVIDIA no controla: tu escritorio

Todo desarrollador de IA conoce las matemáticas: alquilar una GPU en la nube, pagar por token, ver cómo sube la factura. AMD ahora vende una máquina que invierte esa ecuación, una compra de hardware única que, según el modelado de la propia empresa, cuesta seis veces menos que el uso equivalente de API en la nube durante tres años.

La plataforma Ryzen AI Halo, construida alrededor del procesador Ryzen AI Max+ 395, es la apuesta más agresiva de AMD hasta la fecha en el mercado de escritorios para desarrolladores. Viene con 128 GB de memoria unificada LPDDR5x, 60 FP16 TFLOPS de rendimiento de GPU y una NPU de 50 TOPS. La característica principal: puede ejecutar modelos con hasta 200 mil millones de parámetros localmente, sin descargar a servidores remotos.

AMD posiciona esto como una estación de trabajo para desarrolladores de IA que están cansados del ciclo de la nube, personas que crean prototipos localmente, ajustan modelos y ejecutan inferencias repetidamente sobre los mismos datos. La propuesta es que, en lugar de pagar por cada llamada a la API, pagas una vez por el silicio y dejas que la factura de la electricidad se encargue del resto.

Puntos de referencia que provocan comparaciones

Los puntos de referencia publicados por AMD se dirigen específicamente contra dos competidores. Frente al Apple M4 Pro, AMD afirma que la plataforma Halo es hasta 3,3 veces más rápida en Ace Step 1.5 y hasta 7,3 veces más rápida en Ace Step 1.5 XL, ambos flujos de trabajo de generación de imágenes. Stable Diffusion XL se ejecuta 4,5 veces más rápido. Flux Schnell, un modelo popular de código abierto, es hasta 3,8 veces más rápido.

Frente al NVIDIA DGX Spark, las cifras de AMD son más mesuradas pero aún contundentes. El sistema Halo muestra una ventaja del 14% en GLM 4.7 Flash (un modelo de 30 mil millones de parámetros), 7% en GPT-OSS-120B y 12% en Qwen 3.5-122B. No son victorias arrolladoras, pero se sitúan en el territorio donde un desarrollador podría notar la diferencia durante el trabajo iterativo.

Lo que podría importar más que la velocidad bruta: AMD admite tanto Windows como Linux listos para usar. El NVIDIA DGX Spark solo funciona con Linux. Para los equipos que dependen de flujos de trabajo específicos de Windows o políticas de TI empresariales, esa diferencia por sí sola podría decidir la compra.

El argumento del costo de la nube

La ventaja de costo de 6 veces que AMD menciona depende en gran medida de los patrones de uso. La empresa modela un "escenario de uso sostenido" donde un desarrollador ejecuta cargas de trabajo de inferencia de forma continua durante tres años. En ese modelo, la compra inicial de hardware más la electricidad supera por un amplio margen la factura recurrente de la API en la nube. Para un uso más ligero, las matemáticas se inclinan nuevamente hacia el alquiler en la nube: nadie compra una estación de trabajo para ejecutar cinco llamadas de inferencia al día.

Pero el argumento se vuelve más sólido cuando los modelos son lo suficientemente grandes como para que la memoria de la GPU en la nube se convierta en un cuello de botella. Ejecutar un modelo de 120 mil millones de parámetros en una instancia en la nube con suficiente VRAM cuesta más por hora que las instancias estándar T4 o A10 que usan la mayoría de las startups. En ese punto, el hardware local con 128 GB de memoria unificada comienza a parecer económico.

AMD también está enviando software preconfigurado a través de la aplicación Ryzen AI Halo Developer Center, con configuraciones con un solo clic para frameworks como Ollama, LM Studio, vLLM y PyTorch. Los AI Playbooks de la empresa proporcionan flujos de trabajo guiados para generación de imágenes, asistentes de codificación y ajuste fino de LLM, reduciendo la fricción para comenzar a usar hardware nuevo, un área donde las máquinas de desarrollo anteriores de AMD a veces tenían dificultades.

El foso del ecosistema de NVIDIA

A pesar de todos los puntos de referencia y argumentos de costos, AMD todavía tiene un problema de software. El ecosistema CUDA de NVIDIA es el entorno de desarrollo predeterminado para casi todos los laboratorios de modelos fundacionales. La barrera de entrada para los competidores no es solo el rendimiento del hardware, sino toda la cadena de herramientas: frameworks de entrenamiento, motores de inferencia, imágenes de contenedores y soporte comunitario que se ha refinado durante una década.

La respuesta de AMD es ROCm, su pila de cómputo de GPU de código abierto, que ahora admite la plataforma Halo. AMD afirma tener "compatibilidad desde el día cero" para nuevos modelos de IA generativa, y la aplicación Developer Center preinstalada debería ayudar. Pero los efectos de red de CUDA son reales: es más probable que un desarrollador que depura un error de forma extraño a las 2 a.m. encuentre una respuesta en Stack Overflow para CUDA que para ROCm.

La jugada de AMD aquí no es vencer a CUDA en el clúster de entrenamiento; nadie espera eso. Es ganar el escritorio, la máquina donde los desarrolladores crean prototipos antes de ir a la nube. Si un equipo construye su pipeline en una estación de trabajo de AMD y solo se muda a las GPU en la nube para la ejecución de entrenamiento final, AMD captura la máquina de uso diario.

El panorama general

El Ryzen AI Halo de AMD llega en un momento en que la economía de la IA en la nube está siendo objeto de un escrutinio cada vez mayor. Las startups que basaron su economía unitaria en inferencias API baratas están viendo cómo los costos aumentan a medida que los modelos se hacen más grandes. Una estación de trabajo única de $3,000, $5,000 (AMD no ha anunciado el precio final para la línea Halo, pero las máquinas Pro comparables se sitúan en ese rango) empieza a tener sentido para un equipo que ejecuta inferencias diez mil veces por semana.

La plataforma está disponible inicialmente en Estados Unidos, y una versión PRO (el Ryzen AI Max+ PRO 495) que admite 192 GB de memoria llegará más tarde. Ese grupo de memoria más grande permitiría la inferencia local en modelos que se acercan a los 300 mil millones de parámetros, un territorio que actualmente requiere nodos en la nube con múltiples GPU.

AMD no va a desplazar a NVIDIA en el centro de datos de la noche a la mañana. Pero podría poner una máquina de inferencia local en los escritorios de 10,000 desarrolladores primero.