DSpark يثبت أن الاستدلال السريع للذكاء الاصطناعي هو مشكلة جدولة وليس خدعة نموذجية

أصبح فك التشفير التخميني أداة قياسية لتسريع استدلال نماذج اللغة الكبيرة. لكن ورقة بحثية جديدة من DeepSeek تشير إلى أن هذا النهج يحمل تكلفة خفية. عندما يشارك العديد من المستخدمين مجموعة واحدة من وحدات معالجة الرسوميات، فإن سعة الدفعة المستهلكة في التحقق من الرموز التي من المحتمل رفضها تؤدي إلى تآكل الإنتاجية تحديدًا عندما تكون التفاعلية أكثر أهمية. DSpark، المفصلة في ورقة أولية على arXiv، تجعل طول التحقق كمية محددة ديناميكيًا لكل طلب بدلاً من كونها معلمة مفرطة ثابتة. DSpark من DeepSeek يعالج عائقين رئيسيين كانا يعيقان…

البصيرة الأساسية ليست بنية نموذجية جديدة بل إعادة تفكير على مستوى الأنظمة في كيفية تفاعل فك التشفير التخميني مع التجميع. يعمل الاقتران التخميني التقليدي بشكل جيد لتسلسل واحد: نموذج مسودة رخيص يقترح الرموز، والنموذج المستهدف يتحقق منها بالتوازي. ومع ذلك، عندما تتنافس تسلسلات متعددة على نفس وحدة معالجة الرسوميات، فإن التحقق من كتلة طويلة من الرموز لمستخدم واحد قد يزيح فتحات كان من الممكن أن تملأها رموز مقبولة بالفعل لمستخدم آخر. والنتيجة هي سقف إنتاجية لا يمكن لعبقرية أي مسودة كسره. نموذج الذكاء الاصطناعي الخاص بك يدعي أنه يقرأ مليون…

لاحظ مهندسو DSpark، الذين تذكر انتماءاتهم DeepSeek، وهي منظمة تبني بنية تحتية لخدمة الذكاء الاصطناعي على نطاق واسع، أن احتمال القبول ينخفض بشكل حاد بعد الرموز القليلة الأولى من كتلة المسودة، خاصة عندما يفتقر المسودة إلى نمذجة التبعية بين الرموز. المسودات المتوازية التي تولد جميع الرموز المقترحة في وقت واحد تعاني مما تسميه الورقة انحلال اللاحقة: من المرجح أن يتم رفض مواضع الرموز اللاحقة لأنها لم تكن مشروطة على الرموز السابقة التي قد تكون مصححة.

لمواجهة ذلك، تدمج DSpark هيكلًا متوازيًا مع وحدة تسلسلية خفيفة الوزن. يضيف المكون التسلسلي قدرًا صغيرًا من زمن الانتظار لكل رمز ولكنه يعيد تقديم التبعية داخل الكتلة، مما يزيد من طول القبول المتوقع دون إلغاء ميزة السرعة للمسار المتوازي. في المعايير غير المتصلة عبر مجالات الأخبار والكود والرياضيات، تفوقت الطريقة بشكل كبير على المسودات ذاتية الانحدار والمسودات المتوازية البحتة في متوسط عدد الرموز المقبولة قبل الرفض.

المساهمة الأكثر أهمية هي آلية التحقق المجدولة بالثقة. يقدر النظام، لكل طلب، احتمال أن تنجو بادئة معينة من المسودة من التحقق، وهي قيمة تسميها الورقة احتمال بقاء البادئة، ويقوم باقتطاع كتلة التحقق بمجرد أن ينخفض هذا الاحتمال عن عتبة تمت معايرتها وفقًا لملف الإنتاجية الحالي للمحرك. والنتيجة هي أن الطلبات ذات الاستمرارات سهلة التنبؤ لا تزال تتمتع بافتراضات طويلة، بينما الطلبات ذات الرموز غير المتوقعة لا تهدر فتحات الدفعة على رفض شبه مؤكد. عامل الذكاء الاصطناعي الخاص بك اجتاز الاختبار بالصدفة.…

تم إجراء التقييم التجريبي داخل نظام خدمة DeepSeek-V4 تحت حركة مرور المستخدمين الحية، وهو إعداد يعرض الطريقة لأنماط التنافس في العالم الحقيقي. مقارنة بالخط الأساسي للإنتاج، الذي يستخدم نهج التنبؤ الموحد بالرموز، قامت DSpark بتسريع سرعات التوليد لكل مستخدم بنسبة 60 إلى 85 في المئة عند مستويات الإنتاجية المتطابقة. تذكر الورقة أيضًا أن DSpark مكنت مستويات أداء لم تكن قابلة للتحقيق سابقًا تحت قيود التفاعلية الصارمة، مما أدى فعليًا إلى تغيير حدود باريتو لنظام الخدمة. أولمو-إيفال من Ai2 يمنح مطوري LLM ميكروسكوبًا لكل نقطة تفتيش

تصبح المشكلة التي تحلها DSpark أسوأ مع انتشار عمليات نشر وحدات معالجة الرسوميات متعددة المستأجرين. يخدم موفرو السحابة ومختبرات الذكاء الاصطناعي آلاف المستخدمين المتزامنين من بنية تحتية مشتركة، وأي تحسين يحسن زمن الانتظار لكل رمز على حساب استغلال الدفعة يمكن أن يأتي بنتائج عكسية. نهج DSpark هو واحد من عدة أوراق بحثية حديثة تعالج تسريع الاستدلال كمشكلة جدولة وتخصيص موارد بدلاً من كونها مشكلة خوارزمية بحتة. أفق التحقق: لماذا أصبح التحقق من وكلاء البرمجة أصعب من…

تتطلب الطريقة أدوات لتقدير احتمالات بقاء البادئة وخطوة معايرة لربط هذه الاحتمالات بأطوال التحقق المثلى لوحدة معالجة رسوميات معينة. لا تقدم الورقة حلاً عامًا بالكامل ولكنها بنية يمكن دمجها في مجموعات الخدمة الحالية. يقترح المؤلفون أن هذه التقنية مكملة لتحسينات أخرى مثل التخزين المؤقت للبادئة والقياس الكمي، وأن فوائدها تزداد مع حجم الطلبات.

مساهمة DSpark هي بمثابة قصة تحذيرية بقدر ما هي تقنية. إنها تكشف عن عدم الكفاءة الخفية التي تظهر عندما يلتقي فك التشفير التخميني بالتزامن العالي، وتظهر أن حلها لا يتطلب مسودة أفضل بل موزعًا أكثر ذكاءً. وكلاء الذكاء الاصطناعي لا يستطيعون إكمال ترحيل Java دون…