تنبؤ متعدد الرموز
2 published articles
نماذج اللغات الكبيرةFeatured6 min read
LLMs & الاستدلال
الرياضيات وراء التسريع: كيف يخفي الترميز التخميني زمن الاستجابة دون تغيير المخرجات
يعمل الترميز التخميني على تسريع التوليد التلقائي من خلال اقتراح رموز مرشحة بآلية مسودة رخيصة والتحقق منها في تمريرة أمامية واحدة للنموذج المستهدف، دون تغيير المخرجات. يحلل هذا التقرير الرياضيات، والطرق الرئيسية (نماذج المسودة، EAGLE-3، DFLASH، توقع الرموز المتعددة، n-gram)، وما تعنيه معدلات القبول فعليًا لزمن الاستجابة في العالم الحقيقي.
2026-07-21
معايير واختباراتFeatured3 min read
أداء
Gemma 4 يعمل أسرع بنحو 90 بالمائة في Ollama 0.31 مع التنبؤ متعدد الرموز
يقدم Ollama 0.31 التنبؤ متعدد الرموز لـ Gemma 4 على Apple Silicon، مما يحقق توليدًا أسرع بنسبة تقارب 90% للرموز في معايير البرمجة. يأتي التسريع من نموذج أولي مضبوط تلقائيًا ونواة MLX مخصصة تلغي قراءات الأوزان الزائدة.
2026-06-29