passage à l'échelle
4 published articles
Recherche
La mémoire partagée a ses limites : les algorithmes acteur-critique peinent à passer l'échelle au-delà de cinq agents
Des chercheurs ont partagé des buffers de répétition entre des agents acteur-critique sur des tâches d'actions paramétrées. GAC a bondi en performance, tandis que SAC et TQC n'ont que faiblement progressé. Au-delà de cinq agents, le coût de calcul grimpe sans retour significatif. L'article propose une limite pratique pour savoir jusqu'où les méthodes d'expérience partagée peuvent s'étendre avant de plafonner.
2026-07-27
Analyse approfondie de l'infrastructure
Nous Research passe à l'échelle le parallélisme expert avec DeepEP : notes de terrain du pré-entraînement MoE
Nous Research publie des notes de terrain sur la mise à l'échelle du parallélisme expert MoE avec DeepEP. Détail du débit, des compromis de configuration et des goulots d'étranglement issus du pré-entraînement d'un modèle MoE de 1 billion de paramètres. Informations pratiques pour le déploiement d'un entraînement distribué à grande échelle.
2026-07-19
Gestion de la mémoire
mimalloc, le petit cheval de bataille mémoire de Microsoft, alimente discrètement l'IA à grande échelle
L'allocateur mémoire mimalloc de Microsoft Research, conçu pour une haute concurrence et de grandes échelles mémoire, alimente discrètement les services d'IA et cloud à grande échelle. Sa conception thread-local avec des milliers de listes libres minimise la contention et offre à la fois rapidité et efficacité mémoire.
2026-07-03
Données Synthétiques
Pas de patron, pas de goulot d'étranglement : pourquoi un cadre pair-à-pair repense la génération de données synthétiques
Matrix est un cadre décentralisé qui utilise des messages sérialisés transmis via des files d'attente distribuées pour la génération multi-agents de données synthétiques. En éliminant l'orchestrateur central, il atteint un débit 2 à 15 fois supérieur sur du matériel identique.
2026-06-06