IA3 min read
Intelligence artificielle
La nouvelle bibliothèque megakernel d'Aleph Alpha réduit la latence d'inférence MoE de 200 %
Alpha-MoE fusionne plusieurs opérations en un seul noyau persistant pour obtenir jusqu'à 200 % de gains de vitesse d'inférence par rapport aux noyaux Triton dans vLLM et SGLang, ciblant les modèles MoE en précision FP8.
2026-07-09