Los modelos de IA internos de Microsoft reducen costos en un 89% en producción

Microsoft está ahorrando dinero real con sus propios modelos de IA. La compañía publicó esta semana cifras de producción para MAI-Image-2.5-Pro y MAI-Voice-2-Flash que redirigen la conversación sobre IA de los derechos de fanfarronear con benchmarks a algo que los compradores empresariales realmente consideran: el costo operativo.

Los modelos MAI internos, presentados por primera vez en Build, ahora son los predeterminados en varios productos de Microsoft. En PowerPoint, MAI-Image-2.5 impulsa la edición de imagen a imagen y reduce los costos de GPU en un 84% en comparación con GPT-Image-2, según Microsoft, aprovechando las mismas ganancias de eficiencia observadas en la implementación de MAI en Excel de Microsoft. En OneDrive, el mismo modelo redujo la latencia P95 aproximadamente un 25% y aumentó las tasas de guardado de usuarios en un 26%, al tiempo que brindó una eficiencia 2.5 veces mayor bajo cargas de trabajo de utilización media, una tendencia reflejada por la generación compacta de imágenes de Mage-Flow.

Los costos de voz caen aún más

MAI-Voice-2-Flash, diseñado para experiencias de voz de alto volumen, funciona dos veces más rápido que MAI-Voice-2 con un precio por carácter un 32% más bajo. Ahora impulsa Dynamics 365 Contact Center, atendiendo a clientes empresariales como T-Mobile y EasyJet. Microsoft dice que el modelo redujo los costos de GPU en un 89% en esa implementación, alineándose con un impulso más amplio de la industria hacia una inferencia más barata que ejemplifica la apuesta de 800 millones de dólares de Together AI. El precio se fija en $15 por 1 millón de caracteres. Azure Voice Live también integra MAI-Voice-2-Flash, brindando a los desarrolladores un camino para construir agentes de voz con baja latencia y prosodia natural.

De los leaderboards a la economía de producción

Estas cifras provienen de tráfico real, no de benchmarks de juguete. Microsoft no reclama paridad de calidad en teoría, está demostrando que sus modelos pueden manejar cargas de producción a una fracción del costo de GPU de las alternativas, haciendo eco de hallazgos de MAI-Cyber-1-Flash de Microsoft, que ofrece puntuaciones máximas de detección de vulnerabilidades a la mitad del costo de GPU. Para las empresas que deciden si adoptarlo, el costo total de propiedad puede ser tan importante como la calidad del resultado.

Bing Image Creator ahora está 100% impulsado por MAI-Image-2.5 de extremo a extremo, dijo la compañía. MAI-Image-2.5-Pro, con un precio de $5 por 1 millón de tokens de texto de entrada y $106 por 1 millón de tokens de imagen de salida, agrega soporte para renderizado preciso de texto dentro de imágenes y solicitudes de edición en lenguaje natural. Rob Reilly, director creativo global de WPP, calificó la precisión del renderizado de texto como "un verdadero avance".

Asociaciones específicas de dominio

Microsoft también detalló una asociación con Dragon Copilot, una solución de documentación médica utilizada por 170,000 proveedores que procesó 28 millones de encuentros con pacientes el último trimestre. MAI-Transcribe-1.5 ahora admite 58 idiomas para Dragon Copilot, reemplazando un modelo de terceros anterior. Las evaluaciones internas muestran una reducción relativa del 50% tanto en las tasas de error de transcripción como de identificación de idioma en la mayoría de los idiomas, según Microsoft. Investigaciones preliminares sugieren mejoras en la precisión de las notas médicas posteriores.

El despliegue del modelo se combina con inversión en infraestructura. Microsoft dijo que su clúster GB200 ya está operativo, señalando un enfoque continuo en la computación para el entrenamiento de modelos de próxima generación, similar a la inversión de 360 millones de euros de Francia en clústeres.

La conclusión

La jugada de Microsoft no es la de Google o Meta. En lugar de lanzar pesos abiertos, la empresa construye primero para sus propios productos, manteniendo el valor internamente. Las cifras de costos de producción muestran que la estrategia está funcionando. La lección para los competidores: la eficiencia de inferencia es donde se decidirá la próxima fase de la carrera de IA, y Microsoft ya tiene una ventaja inicial.