MoE
4 published articles
Modelos de IA
Poolside Laguna XS 2.1 gana 5 puntos en pruebas de codificación con el mismo hardware
El Laguna XS 2.1 de Poolside mejora SWE-bench Multilingual en 5.4 puntos hasta el 63.1% manteniendo la misma arquitectura MoE de 33B totales y 3B activados. El lanzamiento incluye puntos de control cuantizados, modelos de borrador para decodificación especulativa y una licencia OpenMDW-1.1, haciendo más práctica la codificación local con IA.
2026-07-21
Inmersión profunda en infraestructura
Nous Research escala el paralelismo experto con DeepEP: notas de campo del preentrenamiento MoE
Nous Research publica notas de campo sobre la escalabilidad del paralelismo experto MoE con DeepEP. Detalla el rendimiento, las compensaciones de configuración y los cuellos de botella del preentrenamiento de un modelo MoE de 1T de parámetros. Información práctica de implementación para el entrenamiento distribuido a gran escala.
2026-07-19
Inteligencia Artificial
Lo que Inkling revela sobre la nueva línea divisoria del mercado de modelos de código abierto
Inkling es el primer modelo disponible abiertamente de casi 1 billón de parámetros con entrada nativa de audio, imagen y texto, junto con una ventana de contexto de 1 millón de tokens y una variante cuantizada NVFP4. Los puntajes brutos en los benchmarks son sólidos, pero la historia más reveladora es cómo el ecosistema de código abierto ha pasado de ser un agente de recuperación a una competencia activa en la frontera, y dónde encaja Inkling en ese nuevo mapa.
2026-07-15
Google DeepMind
Gemma 4 acaba de hacer que todos los demás modelos de peso abierto parezcan 10 veces demasiado grandes
La familia de peso abierto nativamente multimodal Gemma 4 de Google DeepMind introduce modo de pensamiento, arquitectura sin codificador y opciones MoE. El modelo de 2.3B iguala el rendimiento del Gemma 3 de 27B. El modelo de 31B lidera las tablas de clasificación de peso abierto.
2026-07-13