Kimi K3 devient open source avec 2,8 billions de paramètres, mais reste en retrait d'Anthropic et d'OpenAI sur les benchmarks

En surface, les chiffres sont stupéfiants. Kimi K3 est un modèle mixture-of-experts de 2,8 billions de paramètres qui active 16 des 896 experts par token. Son architecture inclut Kimi Delta Attention (KDA) et Attention Residuals (AttnRes), deux innovations de conception que le laboratoire affirme améliorer l'efficacité de passage à l'échelle d'environ 2,5 fois par rapport à son prédécesseur, Kimi K2. Le modèle prend en charge une fenêtre de contexte d'un million de tokens et traite nativement le texte, les images et la vidéo.

Mais le tableau des benchmarks raconte une histoire plus nuancée. Sur plus de 40 évaluations couvrant le codage, les tâches agentiques, le raisonnement, la connaissance et la vision, Kimi K3 se situe dans la tranche supérieure, mais rarement au sommet. Sur le benchmark de codage phare DeepSWE, il obtient 67,5, derrière GPT 5.6 Sol (73,0) et Claude Fable 5 (70,0). Sur le test de raisonnement GPQA-Diamond, son 93,5 est inférieur au 94,1 de GPT 5.6 Sol. Ce n'est que sur Terminal Bench 2.1 (88,3) et BrowseComp (91,2) qu'il dépasse légèrement les leaders propriétaires.

Un modèle ouvert, mais pas de pointe

Le discours de Kimi est prudent : « Bien que ses performances globales restent inférieures à celles des modèles propriétaires les plus puissants, Claude Fable 5 et GPT 5.6 Sol, Kimi K3 a démontré des performances de niveau frontière. » Cette distinction est importante. Kimi K3 est le plus grand modèle ouvert jamais publié, mais l'échelle seule ne se traduit pas par une domination.

Sur les benchmarks agentiques, l'écart est plus marqué. Sur GDPval-AA v2, Kimi K3 obtient un Elo de 1 668, contre 1 760 pour Claude Fable 5 et 1 748 pour GPT 5.6 Sol. Sur DECK-Bench, sa propre évaluation interne, il obtient 73,5, contre 74,7 pour GPT 5.6 Sol. La tendance se confirme sur les benchmarks de vision : sur CharXiv avec python, Kimi K3 atteint 91,3, mais Claude Fable 5 atteint 93,5.

Kimi K3 surpasse néanmoins sur certaines tâches de niche. Il bat tous les modèles propriétaires sur SWE Marathon (42,0 contre 35,0 pour Fable 5), sur SpreadsheetBench 2 (34,8 contre 34,7 pour Fable 5) et sur Automation Bench (30,8 contre 29,1 pour Fable 5). Mais ce ne sont pas les benchmarks qui définissent la frontière pour la plupart des praticiens.

Architecture : la véritable histoire

Plus intéressant que le classement des benchmarks est ce que Kimi a construit sous le capot. KDA est conçu pour améliorer le flux d'informations sur de longues séquences ; l'équipe affirme qu'il gère un contexte d'1M de tokens plus efficacement que les mécanismes d'attention standards. AttnRes, quant à lui, récupère sélectivement les représentations des couches antérieures au lieu de les accumuler uniformément, réduisant potentiellement la pénalité de profondeur dans les réseaux très profonds.

Associés à Stable LatentMoE, qui active 16 experts sur 896, et à une méthode d'entraînement expert-parallèle totalement équilibrée, Kimi a résolu plusieurs problèmes d'ingénierie qui ont affecté les précédents modèles MoE à grande échelle. Le modèle utilise également un entraînement sensible à la quantification à partir de l'étape SFT avec des poids MXFP4 et des activations MXFP8, garantissant une large compatibilité matérielle.

Ces innovations pourraient s'avérer plus importantes que les chiffres des benchmarks. Si KDA et AttnRes se généralisent bien, ils représentent une avancée architecturale authentique, que les petits laboratoires et les projets open source pourraient adopter dans leurs propres modèles.

Tarifs et disponibilité

Kimi K3 est disponible dès maintenant sur Kimi.com, Kimi Work (application de bureau), Kimi Code (terminal) et l'API Kimi. Les tarifs sont agressifs : 0,30 $/MTok pour les entrées avec cache hit, 3,00 $/MTok pour les entrées sans cache, et 15,00 $/MTok pour les sorties, nettement moins cher que les niveaux comparables d'Anthropic et d'OpenAI. L'API revendique un taux de cache hit supérieur à 90 % sur les charges de travail de codage grâce à l'architecture d'inférence désagrégée de Mooncake.

Les poids complets du modèle seront publiés d'ici le 27 juillet 2026, bien qu'aucun rapport technique ne soit encore disponible. Kimi déclare « travailler en étroite collaboration avec des partenaires d'inférence et des mainteneurs open source » pour garantir un déploiement fiable.

Conclusion

Kimi K3 est une réalisation d'ingénierie sérieuse et le plus grand modèle ouvert jamais publié. Mais les benchmarks par rapport aux modèles propriétaires de pointe révèlent qu'il n'est pas encore un leader ; il concurrence le second rang. Pour les organisations qui souhaitent un modèle de 2,8T paramètres qu'elles peuvent inspecter, modifier et héberger elles-mêmes, Kimi K3 représente un changement de cap dans les capacités des modèles ouverts. Pour les utilisateurs qui ont besoin des performances maximales brutes sur les benchmarks, Claude Fable 5 et GPT 5.6 Sol restent les références.