La compression a coûté à un assistant d'usine 13,7 % de sa qualité de réponse

L'hypothèse de mise à l'échelle qui cesse de tenir

Un article soumis à arXiv le 2 septembre 2026 s'ouvre sur une contrainte bien connue de quiconque a tenté de faire tourner un modèle de langue performant sur du matériel bon marché. Un assistant en local peut offrir aux travailleurs d'usine un accès conversationnel à la documentation des machines, mais les modèles suffisamment bons pour ce travail tiennent rarement sur le matériel présent dans l'atelier.

La réponse de l'article est une affirmation sur ce qui cesse d'être vrai après compression. Une fois qu'un modèle a été compressé structurellement et adapté par ancrage sur la recherche documentaire, la capacité générale continue de chuter presque linéairement à mesure que des paramètres sont retirés, mais la qualité évaluée des réponses augmentées par recherche ne suit pas la même pente. Deux chiffres qui évoluent normalement ensemble se dissocient.

Cela inverse la logique habituelle de planification. Si moins de paramètres signifie un modèle plus faible, il faut soit monter en gamme de matériel jusqu'à épuisement du budget, soit se contenter de moins bonnes réponses. La prépublication traite plutôt le déploiement comme un problème de sélection : après l'adaptation, on choisit.

13,7 % perdus, 4,6 % encore manquants

L'exemple détaillé est un manuel de fabrication. L'extraction coûte 13,7 % de la qualité évaluée du modèle non élagué. La distillation ancrée sur la recherche documentaire la ramène à moins de 4,6 %, ce que l'article compte comme la récupération des deux tiers de la perte.

Ces chiffres décrivent une seule métrique, et il vaut la peine de préciser laquelle. La qualité évaluée des réponses augmentées par recherche est un score portant sur des réponses produites avec un contexte récupéré, et non un référentiel de capacité générale. Le résumé ne nomme ni évaluateur, ni grille de notation, ni nombre de questions derrière ce score.

Il repose aussi sur un seul manuel dans un seul domaine. Un manuel de fabrication est une cible bien propre pour la recherche documentaire : les réponses y sont écrites, dans un vocabulaire figé qui ne dérive pas d'un mois à l'autre. Une métrique qui tient dans ce cas n'est pas automatiquement transposable à des corpus plus désordonnés, et le résumé ne prétend pas le contraire.

Trois paliers en périphérie, de 1,3 à 5 watts

Le chiffre d'efficacité que l'article met en avant est la consommation en veille. Le même assistant tourne sur trois paliers hétérogènes en périphérie, entre 1,3 et 5 watts au repos. Trois paliers et un seul assistant, c'est là l'affirmation structurelle qui compte : le processus de sélection a produit quelque chose qui peut être affecté appareil par appareil plutôt qu'un modèle unique étiré sur tout un parc.

La consommation en veille est aussi le chiffre le plus facile à publier. Elle mesure ce qu'un appareil tire en attente, pas ce qu'il tire en répondant à une question sur un couple de serrage, et le résumé ne détaille pas la consommation en charge. Pour un assistant utilisé par à-coups pendant un poste, le pic compte autant que le plancher.

Le résumé ne nomme pas non plus les paliers ni les puces qui les sous-tendent, ce qui rend cette fourchette de 1,3 à 5 watts difficile à vérifier face à un matériel d'atelier précis.

Un sous-réseau par appareil

Mécaniquement, la méthode affecte un sous-réseau par appareil, choisi en fonction de la qualité évaluée des réponses et du débit mesuré sur l'appareil, sous réserve d'un plancher de capacité générale configurable et d'un budget mémoire. L'article affirme sans détour que choisir sur un seul axe échoue : les règles qui optimisent uniquement la taille, la vitesse ou la qualité sacrifient chacune de la capacité ou du débit. Un super-réseau à poids partagés, entraîné par distillation sur place de type « sandwich », maintient un coût de sélection assez faible pour être effectué appareil par appareil.

Cela place l'approche aux côtés des méthodes de déploiement existantes. Le résumé ne rapporte aucune comparaison directe avec la quantification après entraînement, ni avec l'envoi d'un modèle de taille différente sur chaque palier. La question de savoir si l'étape de sélection justifie sa mécanique supplémentaire face à ces options moins coûteuses reste sans réponse.

Qui déploierait réellement cela

Personne, pour autant que le résumé le dise. Il ne nomme ni fabricant, ni projet pilote, ni accord commercial.

L'exigence de traitement en local est posée comme une prémisse plutôt que démontrée. Le résumé ne dit pas si les usines ont besoin d'inférence sur site pour des raisons de politique de données, de latence réseau, ou parce qu'un manuel est inutile à un assistant qui ne peut pas y accéder pendant un arrêt de ligne. Chacune de ces raisons implique un produit différent, et le cadrage de l'article n'en retient aucune.

Ce que la prépublication laisse en suspens

La base de preuves se limite à une étude de cas dans un seul domaine, mesurée sur une métrique évaluée, avec une consommation rapportée en veille et aucune réplication indépendante décrite. Il n'y a pas non plus d'évaluation avec les personnes auxquelles l'assistant est destiné. Les techniciens posant de vraies questions en plein poste, dans le bruit et sous pression temporelle, sont la population qui décide si les réponses augmentées par recherche sont suffisamment bonnes.

Ce qui ferait passer l'affirmation d'intéressante à porteuse est précis : une réplication sur plus d'un manuel, une mesure du débit en charge par un tiers, et une étude avec de vrais techniciens.

D'ici là, la lecture défendable est étroite. Dans cette configuration, après cette adaptation particulière, le nombre de paramètres a cessé de prédire la qualité des réponses. Choisir le matériel sur la base du débit mesuré et de la qualité évaluée par appareil est une meilleure base que la taille seule, et c'est aussi beaucoup plus difficile à évaluer à grande échelle.