المختبرات والأبحاث3 min read
أبحاث الذكاء الاصطناعي
Memory Decoder: ذاكرة إضافية بحجم 6.9 مليار معلمة تجعل نموذجًا بحجم 410 ملايين يتفوق على Pythia-12B
يفصل Memory Decoder at Scale الذاكرة طويلة المدى عن الاستدلال في نماذج اللغة الكبيرة. ذاكرة مُدرَّبة مسبقًا بحجم 6.9 مليار معلمة رفعت Pythia-410M فوق Pythia-12B على 17 معيارًا مع معلمات أقل بنسبة 39%؛ وأضافت ذاكرات مجالية بحجم 1.7 مليار معلمة أكثر من 9 نقاط إلى Qwen3 Base على كل مقياس تم اختباره.
2026-07-31