LLM & Modèles4 min read
Optimisation des systèmes
DSpark montre que l’inférence rapide de l’IA est un problème d’ordonnancement, pas un tour de modèle
L’article de DSpark de DeepSeek révèle que le décodage spéculatif naïf dégrade le débit en situation de forte concurrence. Sa solution, la vérification à ordonnancement par confiance, adapte la longueur des blocs par requête et déplace la frontière de Pareto des performances de service.
2026-07-12