التدريب الموزع
2 published articles
مختبرFeatured3 min read
NVIDIA
Nvidia وHugging Face تتعاونان لجعل تدريب الانتشار الموزع أمرًا اعتياديًا
يتكامل NeMo Automodel من Nvidia الآن مباشرة مع Hugging Face Diffusers، مما يتيح التدريب الموزع بجودة إنتاجية لنماذج مثل FLUX وWan 2.1 وHunyuanVideo. تتعامل مكتبة Apache 2.0 مع التوازي كمفتاح تكوين وتسمح بتحميل نقاط التفتيش المضبوطة بدقة مباشرة إلى خطوط أنابيب الاستدلال.
2026-07-19
الأدوات والأطر2 min read
تعمق في البنية التحتية
Nous Research توسع نطاق التوازي الخبير باستخدام DeepEP: ملاحظات ميدانية من التدريب المسبق لنموذج MoE
تنشر Nous Research ملاحظات ميدانية حول توسيع نطاق التوازي الخبير لـ MoE باستخدام DeepEP. تفاصيل الإنتاجية والمقايضات في التهيئة والاختناقات من التدريب المسبق لنموذج MoE بـ 1 تريليون معلمة. رؤى عملية للنشر في التدريب الموزع واسع النطاق.
2026-07-19