Ce qu'Inkling révèle sur la nouvelle ligne de partage du marché des modèles open-source

Thinking Machines a déposé Inkling sur Hugging Face cette semaine sans annonce payante ni keynote spectaculaire. La page de publication ressemble davantage à une note technique qu'à un lancement médiatique : un transformeur MoE decoder-only avec attention relative, attention hybride à fenêtre glissante et globale, une courte convolution 1D sur les états cachés, et un MLP patchifieur pour la vision au lieu d'un ensemble d'encodeurs séparé. Il est multimodal au niveau architectural, pas simplement ajouté.

Avec 975 milliards de paramètres totaux dont 41 milliards d'actifs par token, soutenu par 45 000 milliards de tokens d'entraînement couvrant texte, images, audio et vidéo, Inkling entre sur un marché qui a radicalement changé depuis l'époque où une publication ouverte comme Llama 2 définissait le paysage. Le segment de l'IA open-source ne se contente plus de chasser les scores propriétaires, il en établit désormais certains. L'arrivée d'Inkling aiguise une question qui importe plus que sa place sur un benchmark spécifique : que signifie exactement 'open' maintenant ?

Une Singularité Technique, Stratégiquement Encadrée

Le choix architectural le plus notable d'Inkling est l'absence d'encodeurs séparés par modalité. L'entrée visuelle passe par un MLP hiérarchique qui fusionne les pixels en embeddings de patches ; l'audio est discrétisé en bacs de spectrogramme mel intégrés par une tour dédiée. Cela contraste avec des modèles comme Gemini ou Claude, qui s'appuient sur des encodeurs de vision dédiés (par exemple, SigLIP ou des réseaux de proposition de régions) qui sont en grande partie figés lors de l'inférence. En intégrant le tout dans un seul decodeur avec ce que Thinking Machines appelle une 'courte convolution' (une convolution 1D sur les états cachés avec une fenêtre de W), Inkling force le mécanisme d'attention lui-même à apprendre le raisonnement inter-modal plutôt que de s'appuyer sur des têtes d'alignement entraînées séparément.

Le mécanisme d'attention relative est une autre innovation. La plupart des LLM modernes utilisent des embeddings de position rotatifs (RoPE). Inkling utilise un tenseur de caractéristiques relatives appris R qui est ajusté par tête en fonction de la distance, injecté directement dans les logits d'attention. Le résultat est un modèle dont la compréhension positionnelle est entraînée de bout en bout plutôt que codée en dur, ce qui peut expliquer pourquoi il gère la fenêtre de contexte complète de 1 million sans la dégradation qui affecte souvent les modèles basés sur RoPE au-delà de 128k tokens.

Les couches spéculatives MTP (Multi-Token Prediction) ajoutent un rédacteur qui prédit plusieurs tokens futurs à la fois. Pendant l'inférence, le rédacteur agit comme un decodeur spéculatif, offrant des gains de débit de 2 à 3x sur les mêmes sorties. L'approche ressemble à Medusa mais est intégrée nativement plutôt que comme un ajout en cours d'inférence, et surtout, le rédacteur lui-même est fourni comme un fichier de poids séparé, ce qui signifie que n'importe qui peut le servir avec le modèle de base sans changements structurels.

Où Tombent les Chiffres, et Ce qu'ils Cachen

La suite de benchmarks d'Inkling est exceptionnellement complète pour une publication ouverte : 24 tests différents couvrant le raisonnement, le codage, les tâches agentiques, la factualité, la vision, l'audio et la sécurité. Les résultats sélectionnés incluent :

Les chiffres principaux racontent l'histoire d'un modèle qui rivalise avec le milieu de gamme des systèmes propriétaires en matière de raisonnement et de codage agentique, mais qui reste 10 à 20 points derrière les meilleurs modèles fermés comme Claude Fable 5 et Gemini 3.1 Pro sur HLE et SWEBench. Sur AIME 2026, Inkling (97,1 %) atteint presque DeepSeek V4 Pro (96,7 %) et le non nommé GPT 5.6 Sol (99,9 %). Cette parité en raisonnement mathématique aurait semblé invraisemblable il y a deux ans pour toute publication ouverte.

Les benchmarks audio sont ceux où Inkling n'a pas de comparaison directe. Aucun modèle ouvert comparable ne publie de scores Audio MC, MMAU ou VoiceBench car peu de modèles ouverts gèrent l'entrée audio. Thinking Machines définit essentiellement la référence ici. VoiceBench à 91,4 % est solide, bien qu'il manque un concurrent fermé pour l'étalonnage. La section audio du tableau de benchmarks est principalement constituée de tirets, ce qui est à la fois une reconnaissance du vide dans le domaine et un cadrage commode : Inkling ne peut pas perdre sur une métrique qu'elle seule rapporte.

Les chiffres de sécurité sont vraiment intéressants. FORTRESS Adversarial à 78 % est supérieur à Kimi K2.6 (65,6 %) et Nemotron (77,6 %), mais nettement derrière Claude (96,0 %) et GPT-5.6 (82,4 %). Le score FORTRESS bénin (95,9 %) est compétitif avec tout le monde, et le StrongREJECT à 98,6 % est presque parfait. Cela suggère qu'Inkling a été soigneusement aligné contre les tentatives de jailbreak standard mais peut être plus vulnérable aux attaques adaptatives que les meilleurs laboratoires propriétaires. Pour un modèle destiné au fine-tuning et à l'adaptation à un domaine, la marge de sécurité adversarial compte plus que la marge bénigne. 78 % laisse une marge pour une utilisation abusive dans un déploiement en aval qui n'ajoute pas ses propres garde-fous.

Le Réveil du Matériel

Le point de contrôle BF16 nécessite 2 To de VRAM. La variante NVFP4 réduit cela à 600 Go sur les GPU Blackwell. Ce n'est pas un modèle qui fonctionne sur une seule station de travail : le déploiement signifie un cluster de H100 ou B200, un script Slurm et une volonté de gérer le parallélisme tensoriel entre les nœuds. Les quantifications Llama.cpp GGUF d'Unsloth réduisent la mémoire à environ 30 Go, permettant l'inférence sur un seul GPU haut de gamme, mais à une précision de 1 bit, avec l'inévitable compromis de qualité qu'implique le chiffre de rétention de précision de 74,2 %.

Le support dès le jour 0 dans Transformers, SGLang et vLLM est réel et bien documenté. Les extraits de code sont détaillés, avec à la fois une utilisation de pipeline de haut niveau et des modèles AutoModel de niveau inférieur. La route Hugging Face Inference Providers, où Thinking Machines couvre les coûts d'inférence pendant deux heures, abaisse la barrière à l'expérimentation. Mais le point d'entrée pratique pour la plupart des développeurs sera le chemin quantifié Llama.cpp, qui contourne l'exigence de cluster au prix de la pleine capacité du modèle.

Ce que 'Ouvert' Signifie Ici

Thinking Machines n'a pas publié la licence d'Inkling sur la page de publication dans le matériel source fourni. Le terme 'poids ouverts' apparaît, mais la licence des poids, la licence des données et toute restriction sur les fine-tunes distillées sont absentes. Pour un modèle de cette envergure, le choix de la licence est sans doute plus conséquent qu'un point de pourcentage sur HLE. Une publication de poids ouverts sous une licence permissive (MIT, Apache 2.0, ou même de style Llama 2) serait véritablement perturbatrice ; une licence de recherche uniquement ou non commerciale ferait d'Inkling un artefact technique plutôt qu'un acteur de l'écosystème.

Le matériel source ne détaille pas non plus la composition des données d'entraînement des 45 000 milliards de tokens, au-delà de l'énumération des modalités. L'algorithme ECHO utilisé pour le post-entraînement RL (qui entraîne le modèle à prédire les résultats de l'environnement sans vérificateur) est décrit mais non validé par une réplication externe. Ces lacunes ne minent pas la publication. Elles sont standard pour un modèle à ce stade, mais elles signifient que l'évaluation communautaire d'Inkling attend encore que la communauté l'exécute.

La Carte du Marché a Changé

Il y a deux ans, un modèle ouvert au niveau de performance d'Inkling aurait dominé les gros titres pendant une semaine. Maintenant, il atterrit dans un paysage où :

• Mistral AI a démontré que les petits modèles ouverts (8B-120B) peuvent rivaliser avec des modèles fermés 10 fois plus grands sur des tâches de raisonnement de niche
• DeepSeek a montré que les modèles MoE ouverts de 600B+ entraînés sur des données synthétiques soigneusement organisées peuvent égaler les laboratoires de frontière en mathématiques et en codage
• Llama 4 a brouillé la ligne entre poids ouverts et propriétaires, Meta contrôlant étroitement la licence en aval
• L'évaluation par modalité (vision, audio, vidéo) est devenue un axe concurrentiel distinct plutôt qu'une réflexion après coup

Inkling se situe dans un milieu inconfortable : trop grand pour fonctionner à un coût abordable sans quantification, compétitif mais pas dominant en raisonnement, et unique sur l'audio mais non calibré par rapport aux alternatives fermées. Sa valeur la plus forte pourrait être en tant que plateforme de recherche pour les architectures MoE multimodales. Les mécanismes d'attention, le puits d'experts partagés avec 256 experts, la conception de la courte convolution. Pas en tant que produit déployable prêt à l'emploi.

La publication révèle également quelque chose sur l'état du développement des modèles ouverts : l'écart entre l'open et le propriétaire dans la tranche de 500B à 1T de paramètres s'est réduit au point qu'un seul point de pourcentage les sépare sur plusieurs benchmarks. Cela ne signifie pas que les modèles ouverts ont rattrapé leur retard. Les laboratoires propriétaires sont toujours en tête sur HLE de 15 à 24 % et sur la sécurité adversarial avec des marges significatives. Mais cela signifie que la conversation ne porte plus sur la capacité des modèles ouverts à être compétitifs. Il s'agit de l'axe sur lequel ils choisissent de rivaliser, et si cet axe est celui que le marché valorise réellement.