تحسين الاستدلال
4 published articles
التقنيات العميقة
التوجيه المشترك عبر الطبقات يعطي الانتباه المتناثر تسريعًا بمقدار 7 أضعاف دون التأثير على الجودة
تستخدم CLSA تمريرة توجيه واحدة لكل تسلسل بدلاً من تمريرة واحدة لكل طبقة، مما يقلل حمل KV-cache مع الحفاظ على انتقائية مستوى الرمز. تُظهر المقاييس تحسنًا في الإنتاجية بمقدار 17.1 ضعفًا في سياق 128 ألف رمز.
2026-07-26
الذكاء الاصطناعي
مكتبة الميغاكيرنل الجديدة من ألفا ألفا تقلل زمن استدلال نموذج الخبراء المختلط بنسبة 200%
تقوم Alpha-MoE بدمج عدة عمليات في نواة واحدة مستمرة لتحقيق مكاسب في سرعة الاستدلال تصل إلى 200% مقارنة بالنوى القائمة على تريتون في vLLM وSGLang، مستهدفة نماذج MoE بدقة FP8.
2026-07-09
غوص عميق
ألفا ألفا تبني نموذج استدلال نظري لـ DeepSeek: استخلاص الأداء من أساسيات الأجهزة
أنشأت ألفا ألفا نموذج استدلال نظري لـ DeepSeek v3 لتقدير الإنتاجية من معلمات الأجهزة، مع تحليل المفاضلات عبر إعدادات وحدات معالجة الرسوميات لمساعدة الممارسين على تحسين الأداء والتكلفة لنماذج الخبراء المختلطة الكبيرة.
2026-07-05
تحسين الاستدلال في نماذج اللغة الكبيرة
أليف ألفا تبني نموذج استدلال نظري لفك تشفير أداء DeepSeek V3 من البدائيات الأساسية للأجهزة
يتنبأ النموذج النظري لشركة أليف ألفا بأداء استدلال DeepSeek V3 من معايير الأجهزة وحدها، كاشفًا كيف يُغير عدد وحدات معالجة الرسومات وعرض النطاق الترددي للاتصال البيني عنق الزجاجة بين الحوسبة والذاكرة والاتصال.
2026-07-04