قابلية التوسع
4 published articles
بحث
الذاكرة المشتركة سيف ذو حدين: توسيع خوارزميات الممثل-الناقد إلى ما بعد خمسة عوامل يُظهر عوائد متناقصة
قام الباحثون بمشاركة مخازن التكرار عبر عوامل الممثل-الناقد في مهام الإجراءات المعلمية. قفز أداء GAC بشكل ملحوظ، لكن SAC و TQC تقدما فقط بخطوات بطيئة. بعد خمسة عوامل، ترتفع التكلفة الحاسوبية دون عائد ذي معنى. تقدم الورقة حدًا عمليًا لمدى قدرة طرق الخبرة المشتركة على التقدم قبل أن تتوقف.
2026-07-27
تعمق في البنية التحتية
Nous Research توسع نطاق التوازي الخبير باستخدام DeepEP: ملاحظات ميدانية من التدريب المسبق لنموذج MoE
تنشر Nous Research ملاحظات ميدانية حول توسيع نطاق التوازي الخبير لـ MoE باستخدام DeepEP. تفاصيل الإنتاجية والمقايضات في التهيئة والاختناقات من التدريب المسبق لنموذج MoE بـ 1 تريليون معلمة. رؤى عملية للنشر في التدريب الموزع واسع النطاق.
2026-07-19
إدارة الذاكرة
mيمالوك، حصان العمل الصغير في مايكروسوفت، يعمل بهدوء على تشغيل الذكاء الاصطناعي على نطاق واسع
محلل الذاكرة ميمالوك من مايكروسوفت ريسيرش، المصمم للتزامن العالي ونطاقات الذاكرة الكبيرة، يعمل بهدوء على تشغيل الذكاء الاصطناعي وخدمات السحابة على نطاق واسع. تصميمه المحلي لكل خيط مع آلاف القوائم الحرة يقلل من التنازع ويوفر السرعة وكفاءة الذاكرة.
2026-07-03
بيانات اصطناعية
لا رئيس، لا عنق زجاجة: لماذا يعيد إطار نظير إلى نظير التفكير في توليد البيانات الاصطناعية
Matrix هو إطار لامركزي يستخدم رسائل متسلسلة تمر عبر قوائم انتظار موزعة لتوليد البيانات الاصطناعية بواسطة وكلاء متعددين. بإلغاء المنسق المركزي، يحقق إنتاجية أعلى بمقدار 2-15 ضعفاً على نفس الأجهزة.
2026-06-06