Cache KV
2 published articles
IA5 min read
Deep Tech
Le routage partagé entre couches accélère l'attention sparse de 7x sans perte de qualité
CLSA utilise un seul passage de routage par séquence au lieu d'un par couche, réduisant les frais généraux du KV-cache tout en conservant la sélectivité au niveau des tokens. Les benchmarks montrent une amélioration du débit de 17,1x à 128K de contexte.
2026-07-26
DeepSeek4 min read
Recherche en IA open source
Contexte d'un million de tokens avec un dixième du cache KV : le pari d'efficacité de DeepSeek-V4
L'aperçu V4 de DeepSeek associe un modèle Pro de 1,6T de paramètres à une variante Flash de 284B, tous deux avec un contexte d'un million de tokens. Le document revendique 27 % des FLOPs d'inférence et 10 % du cache KV de V3.2, soit les chiffres qui rendent ce contexte rentable à servir.
2026-06-22