Nemotron-4 de Nvidia est rapide, ouvert, et vise directement l’écart entre Llama et GPT

Nvidia a publié Nemotron-4 aujourd'hui, un modèle de langage open-weight en variantes de paramètres 8B et 34B. La société affirme que la version 34B obtient un score à moins de deux points de GPT-4 sur le benchmark MMLU tout en utilisant 30 % de calcul en moins lors de l'inférence. Le modèle est publié sous une licence commerciale permissive.

Les chiffres se situent carrément dans une partie contestée du marché des modèles ouverts. Les Llama 3.3 70B, Mistral Large et Qwen 2.5 72B de Meta se regroupent tous dans des bandes de précision similaires. Ce qui distingue Nemotron-4, c'est l'affirmation de Nvidia concernant le coût d'inférence : 30 % de calcul en moins pour la même tâche, entraîné sur un mélange de données web synthétiques et organisées.

L’écart que Nvidia attaque

L'écosystème des modèles ouverts a un problème bien connu. Vous pouvez choisir un petit modèle rapide comme Qwen 2.5 7B qui fonctionne sur un seul GPU mais fait des erreurs de raisonnement sur des tâches en plusieurs étapes. Ou vous choisissez un grand modèle performant comme Llama 3.3 70B qui obtient des scores élevés sur les benchmarks mais nécessite plusieurs GPU et une inférence par lots coûteuse. Il n’y a pas grand-chose entre les deux qui fasse bien les deux.

Nemotron-4 34B se situe dans cette bande intermédiaire. Si l'affirmation MMLU se vérifie par une vérification indépendante, il devient l'un des modèles ouverts les plus puissants proches de sa taille. Et la variante plus petite 8B offre aux équipes une option moins chère pour des tâches de routage plus simples.

La publication d’intégration de Nvidia plus tôt cette année a déjà montré que l’entreprise comprend ce palier : suffisamment puissant pour être utile, assez bon marché pour être déployé largement. La gamme Nemotron-4 étend cette logique au raisonnement.

Le territoire non balisé

La source ne précise pas à quelle variante de GPT-4 Nvidia se compare, ni si l'écart de deux points porte sur la totalité de la division MMLU ou sur un sous-ensemble. Cela importe car les scores de GPT-4 varient selon la version et les conditions exactes du test. Un écart de deux points sur le benchmark MMLU standard représente environ 1 à 2 points de pourcentage selon la référence, significatif pour les comparaisons, mais pas transformateur.

La question plus importante est de savoir comment Nemotron-4 se comporte sur les tâches agentiques. Les recherches existantes de Nvidia sur les coûts d’inférence des agents suggèrent que l’entreprise réfléchit à ce problème depuis un certain temps. Si les économies de calcul de 30 % sont réelles à grande échelle, les équipes exécutant des milliers de boucles d’agents par jour verraient des différences de coûts significatives.

Ce qui n'est pas dans l'annonce : benchmarks tiers, chiffres de latence en direct ou ensemble d'évaluation ouvert. Les premiers utilisateurs devront reproduire les résultats eux-mêmes.

Sa place

La licence commerciale permissive est le signal clé. Nvidia n'essaie pas de verrouiller Nemotron-4 derrière un terminal propriétaire comme le font OpenAI ou Anthropic avec leurs meilleurs modèles. Il parie que l'adoption des poids ouverts alimente le reste de son écosystème matériel et logiciel : puces, framework Nemo, optimisations CUDA.

Pour les équipes utilisant déjà Llama ou Mistral, le chemin de migration est simple : même infrastructure de service, poids différents. La question est de savoir si Nemotron-4 l'emporte réellement en termes de précision par jeton en pratique, ou seulement sur un classement de benchmark.

L'affirmation d'économies de calcul de 30 %, si elle est exacte, donne à Nvidia un récit clair : inférence moins chère sans sacrifier les capacités. C'est un argument plus fort que des gains marginaux sur MMLU. Les équipes qui optimisent les coûts compareront ce modèle à leurs propres charges de travail avant de changer, et Nvidia semble le savoir.