قابلية تفسير النماذج اللغوية الكبيرة: مسودة arXiv، 10 سبتمبر 2026
Qwen وLlama وGemma تختلف حول متى يتوقف النموذج عن التوجيه ويبدأ الإجابة
تفصل المسودة البحثية «From Parameters to Answers» بين ما يمكن للنموذج قراءته مبكراً وما يوجّه مخرجاته فعلاً. وتختلف المسارات عبر Qwen وLlama وGemma، ويحتفظ أحد اتجاهات الطلب بأثر متأخر لا تستطيع رواية بسيطة تقارن بين المبكر والمتأخر تفسيره.
Emmanuel Fabrice Omgbwa Yasse بمساعدة الذكاء الاصطناعي
2026-09-20 · قراءة 4 دقائق

ما فعلته المسودة البحثية فعلاً
السؤال ميكانيكي: أثناء إجابة نموذج لغوي، كيف يتغير اعتماده على معلومات توجيه الاستعلام نسبةً إلى اعتماده على المعرفة التي تدعم الإجابة؟ تتناول مسودة From Parameters to Answers، المقدمة إلى arXiv في 10 سبتمبر 2026، هذا السؤال بالتدخل في الحالة المخفية عند نهاية السؤال، طبقة تلو الأخرى، بدلاً من قراءة مخرجات النموذج والرجوع منها إلى الخلف.
يقارن الفريق أسئلة الدولة-القارة بإجابات من نوع الاسم والصفة والرمز، مع إبقاء عدة قياسات ملائمة منفصلة. ويحصل اتجاهان للطلب على تسميتين. يصف اتجاه الطلب المشروط بالزوج أي بلد يُستعلَم عنه في الأسئلة الطبيعية أحادية البلد. ويصف اتجاه الطلب العالمي طلبات البلد الأول مقابل الثاني في الأسئلة المزدوجة. وترشّح اختبارات اختيار منفصلة التحكم بين المحتويات المتاحة بالفعل في الحالة المخفية.
تظهر النماذج الثلاثة كعائلات فقط. تذكر المادة Qwen وLlama وGemma، دون ذكر أي نسخة أو حجم أو نقطة تحقق، لذا لا ينبغي قراءة أي شيء هنا كادعاء حول إصدار محدد.
Qwen وLlama وGemma لا تتحول وفق الجدول نفسه
المسارات المزدوجة للنماذج الثلاثة ليست موحّدة، وهذه أول نتيجة تستحق الخروج بها من الورقة. تُظهر Gemma ملفاً متداخلاً جزئياً للتوجيه-المحتوى في الطبقات الوسطى، وهو ما يذكره الملخص دون تفصيل إضافي. ولا تمتلك Llama نافذة مستمرة للتأثير التوجيهي في ظل البوابات نفسها.
هذا انقسام في النوع وليس في الدرجة. من افترض أن العائلات الثلاث تشترك في جدول طبقي للتوجيه والمحتوى مخطئ في واحدة منها على الأقل، ولا تذكر المسودة البحثية أي فرق في التدريب أو البنية ينتج هذا التباعد.
| عائلة النموذج | ما تذكره المسودة البحثية |
|---|---|
| Qwen | يقوى اتجاه الطلب المشروط بالزوج قبل أن تغيّر التدخلات عليه المعرفة الملائمة اللاحقة؛ ويُظهر مقارنة مطابقة أنه يحتفظ بأثر متأخر |
| Gemma | ملف متداخل جزئياً للتوجيه-المحتوى في الطبقات الوسطى |
| Llama | لا نافذة مستمرة للتأثير التوجيهي في ظل البوابات نفسها |
تصل Qwen عبر مسار مختلف. تأتي أدلتها في الملخص من إعادة تحليل تشخيصية لحالات أسئلة طبيعية مجمّدة، وهي تحمل أدق تمييز في الورقة.
التسليم: معلومات الطلب تتلاشى، والمحتوى يبقى
في البروتوكول المزدوج، يقل الاعتماد على اتجاه الطلب العالمي كلما انتقل التحليل من مجموعات الطبقات المبكرة الثابتة إلى اللاحقة، بينما يستمر الاعتماد على المحتوى الملائم. يضعف التوجيه عبر العمق؛ أما المادة التي تقف خلف الإجابة فلا.
تمنح إعادة تحليل Qwen هذا التحول شكلاً. يقوى اتجاه الطلب المشروط بالزوج قبل أن تبدأ التدخلات عليه في تغيير المعرفة الملائمة اللاحقة، وتُفتح النافذة السببية بينما لا يزال المحتوى الداعم للإجابة في طور التشكل. القدرة على قراءة اتجاه ما في طبقة ما والقدرة على تغيير النموذج من خلاله ليستا الخاصية نفسها، وهما تفترقان عند أعماق مختلفة.
الحد الذي يرسمه المؤلفون حول نتيجتهم
المقارنة المطابقة لـ Qwen تمنع النتيجة من التجاوز: يحتفظ الاتجاه المشروط بالزوج بأثر متأخر. لذلك يخص التسليم التشغيلي الاتجاه العالمي الملائم تحديداً، وليس معلومات الطلب ككل. توجيه نموذج عبر إشارة بلد وتوجيهه عبر إشارة سؤال مزدوج يتصرفان بشكل مختلف عند الأعماق نفسها.
لا يقدّم الملخص أي قياس كمي لأي من ذلك. فهو لا يذكر أحجام تأثير، ولا أعداد طبقات، ولا مقارنة بين الأثر المتأخر المشروط بالزوج والأثر الأسبق. تترك هذه الفجوة مفتوحاً مقدار ما في التسليم من إشارة قوية ومقدار ما هو مجرد اتجاه يتوقف عن الأهمية ببساطة.
لماذا أربعة قياسات أفضل من واحد
الادعاء المنهجي للورقة هو أن أربع خصائص غالباً ما تُذكر معاً ينبغي إبقاؤها منفصلة: القابلية للقراءة المبكرة، والقوة الطبيعية، والتوجيه السببي، والاعتماد اللاحق على المحتوى. قد يكون اتجاه ما مقروءاً في حالة مخفية دون أن يكون هو ما يحرّك المخرجات، وقد يوجّه اتجاه ما مخرجات عند مجموعة طبقات بينما يحمل شيء آخر الإجابة عند مجموعة أخرى.
هذا الفصل هو ما يجعل نتائج Llama وGemma قابلة للمقارنة بنتيجة Qwen أصلاً، وهو أيضاً موضع حدود المسودة البحثية. وبما أن البروتوكول متاح في شكل ملخص فقط، فإن أكثر ادعاءاتها قابلية للنقل هو ادعاء سلبي: الاتجاه الذي يُقرأ بوضوح عند طبقة ما ليس تلقائياً الاتجاه الذي يحدد الإجابة عند تلك الطبقة.
- المصدر : Qwen, Llama and Gemma split on when a model stops routing and starts answering — 2026-09-10
أهم أخبار التقنية في 3 دقائق كل صباح
بريد إلكتروني واحد، كل يوم عمل، بما يهم فعلاً في الذكاء الاصطناعي والتقنية.