لماذا يُعد الاحتمال اللوغاريتمي للرموز إشارة خاطئة لمراقبة نماذج التفكير في الذكاء الاصطناعي

يجعل التكميم منخفض البت نماذج التفكير الصغيرة رخيصة النشر، لكنه يضعف استدلال سلسلة الأفكار الخاصة بها. الغريزة الطبيعية هي مراقبة وحدة فك الترميز والتدخل عندما يحدث التوليد بشكل خاطئ. لكن دراسة جديدة من Novelis Research تجادل بأن المرصود الأكثر وضوحًا، الاحتمال اللوغاريتمي للرمز، هو أساس خاطئ لمثل هذا المراقب.

لماذا يفشل الاحتمال اللوغاريتمي

تظهر الدراسة، بقيادة إل حسن إيتيفوري وزملائه، أن توسيط الاحتمال اللوغاريتمي للرمز تحت قانون أخذ العينات الخاص بالنموذج ينتج مارتينجال صالحًا. لكن هذا المارتينجال يقيس اتساق الذات لأخذ العينات، وليس صحة المسار. عندما يدخل النموذج في حلقة تكرار واثقة، يكون احتمال الرمز قريبًا من 1، والاحتمال اللوغاريتمي قريبًا من 0، والانتروبيا قريبة من 0. يصمت المراقب بينما يخطئ النموذج بثقة.

في اختبار سلامة موجه، أطلق مارتينجال الاحتمال اللوغاريتمي إنذارات على 63% من التدفقات الصحية، وهو معدل إنذار خاطئ يمنعه من كونه كاشفًا، ومع ذلك اكتشف الحلقات الواثقة فقط 42% من الوقت. التقط كاشف e-CUSUM المعاير 100% من الحلقات الواثقة وأنظمة الانهيار بعد الانجراف دون إنذارات خاطئة على النص الصحي.

بديل e-CUSUM المعاير

بنى الباحثون وحدة تحكم لفك الترميز بدون تدريب من جزئين. أولاً، درجة إنذار مدركة للانحطاط تدمج عدم يقين الرمز مع إشارة تكرار حرفي صريحة. ثانيًا، كاشف تسلسلي معاير قائم على عملية e يحول عملية المنتج الخام إلى إحصاء ذي أرضية CUSUM لاكتشاف التغيير.

كانت المعايرة حاسمة. تسبب خط أساس غير معاير (μ0=0.15) في إطلاق الكاشف على 93-95% من جميع التوليدات، مما جعله عديم الفائدة. جعل تعيين μ0 عند المئين التسعين لآثار FP16 الصحية (0.41) منه كاشفًا انتقائيًا يصل إلى دقة حوالي 0.6 وphi حوالي 0.3، مقابل معدل أساسي 0.38 من الآثار السيئة.

النتائج التجريبية على GSM8K

باستخدام DeepSeek-R1-Distill-Qwen-1.5B على 100 مسألة اختبار من GSM8K، وجدت الدراسة أن الحلقات الحرفية نادرة، على الأكثر 4% من الرموز حتى على الآثار الفاشلة. نمط الفشل السائد هو عدم الإنهاء: ما يصل إلى 49% من آثار INT4 غير الصحيحة تستنفد الميزانية المكونة من 2048 رمزًا. يتوافق هذا مع نتائج Lotfi et al. (2026) التي تفيد بأن النماذج المكممة تنتج بشكل مفرط علامات مثل 'انتظر' و'لكن' في المواضع ذات الانتروبيا العالية.

قلل المتحكم من إشارات الانحطاط الحرفي. انخفض متوسط التكرار المتتالي لـ INT4 من 0.010 إلى 0.003، والحلقات الشديدة من 1% إلى 0%، والاقتطاع من 22% إلى 19%. تحركت الدقة في الاتجاه الصحيح، زائد 6 نقاط في INT4 وزائد 4 في FP16، لكن الاختلافات لم تكن ذات دلالة إحصائية (McNemar p=0.18 لـ INT4 عند n=100). كانت تكلفة الرموز زائد 28%، وزيادة وقت الساعة الحائطية بمقدار 30%.

الآثار المنهجية

المساهمة الدائمة للدراسة هي منهجية: شرح واضح لسبب عدم كفاية مرصود مغرٍ، بالإضافة إلى بديل معاير ومقيم بأمانة. عملية المنتج الخام لها ضمان حقيقي من نوع فيل للإنذار الخاطئ الموحد زمنيًا تحت فرضية العدم الشرطية، لكن إحصاء CUSUM المنشور يُبلغ من خلال نقاط تشغيل تجريبية بدلاً من ضمان رياضي صارم.

يطلق الباحثون كل الكود وأدوات المعايرة والآثار لدعم دراسات أوسع نطاقًا تحتاجها مسألة الدقة في النهاية. يوصون بأن يركز العمل المستقبلي على معايير أصعب حيث يكون عدم الإنهاء والانجراف أكثر تواترًا، وعلى عمليات الاجتثاث التي تفصل مساهمة الإشارات القائمة على الانتروبيا فقط مقابل التكرار فقط في درجة الإنذار.