درجات إعادة البناء العالية لا تعني أن تفسيرات الذكاء الاصطناعي صحيحة

يعتمد الباحثون في مجال قابلية التفسير على رهان بسيط: إذا كان بإمكانك إعادة بناء تنشيط خلية عصبية من تفسير قابل للقراءة البشرية، فلا بد أن هذا التفسير قد التقط شيئًا حقيقيًا. ورقة بحثية نُشرت على arXiv في 22 يوليو 2026، بعنوان درّب النموذج، وليس القارئ: الإشراف على قابلية الفك للتفسيرات القابلة للتحقق من التنشيط، تجادل بأن هذا الرهان غير سليم من الناحية الهيكلية.

تعمل أجهزة الترميز الذاتي للغة الطبيعية عن طريق تدريب مُشَفِّر لتحويل التنشيطات الخفية إلى كلمات، وفك ترميز لإعادة توليد التنشيط من تلك الكلمات. إعادة البناء العالية تعني أن التفسير يجتاز الاختبار. المشكلة، كما يظهر المؤلفون، هي أن الاختبار ينجح بطريقتين وواحدة فقط منهما موثوقة.

الجوهر ليس الحقيقة

عندما قام فريق بقيادة Hiskias Dingeto Dr بتطبيق الوصفة القياسية على أداة تمثيل لفظي Qwen-2.5-7B صدرت، أعادت التفسيرات البناء فوق العشوائية بكثير. لكن حوالي 2% فقط من الادعاءات الواقعية الفردية في تلك التفسيرات كانت تعتمد فعليًا على إعادة البناء، مما يعني أنه يمكنك قلب 98% من الادعاءات وإعادة البناء بالكاد يتغير. تتبعت النتيجة الجوهر، وليس الحقيقة المحددة.

يتردد صدى هذا الاكتشاف مع توتر معروف في قابلية التفسير: يمكن أن يتباعد المحتوى الدلالي عالي المستوى ("تكتشف هذه الخلية العصبية توافق الفاعل والفعل") ودقة إعادة البناء منخفضة المستوى. أظهرت أعمال سابقة من Anthropic وآخرين أن تفسيرات التنشيط يمكن أن تكون معقولة دون أن تكون مرتبطة سببيًا بما يحسبه النموذج. الورقة الجديدة تُضفي طابعًا رسميًا على وضع الفشل في إعداد الترميز الذاتي وتُظهر أنه ليس حالة هامشية.

رموز متكيفة بشكل مشترك في كل تشغيل

صمم المؤلفون إعدادًا اصطناعيًا للحقيقة الأساسية حيث كان التفسير الصحيح لمجموعة من التنشيطات معروفًا تمامًا. أدى تشغيل وصفة التدريب القياسية إلى إنتاج تفسيرات حققت درجات عالية في إعادة البناء، لكن 5 من أصل 5 عمليات تشغيل مستقلة تقاربت على رموز خاصة متكيفة بشكل مشترك: صياغة اعتمد عليها جهاز فك الترميز ولكنها لا تتوافق مع سلوك النموذج الحقيقي. بدت الرموز كأنها إنجليزية عادية لكنها كانت وظيفيًا عبارة عن مصافحة سرية بين المشفر وفك الترميز، متجاوزة النموذج المستهدف بالكامل.

تثبيت معلمات النموذج المستهدف، وهو اقتراح شائع لتثبيت قابلية التفسير، لم يساعد. زوج المشفر-فك الترميز ببساطة قام بتعديل إشاراته الخاصة ليظل داخل مشعب مخرجات الهدف المجمد. يشير هذا إلى أن الفشل ليس مجرد قطعة أثرية تدريبية، بل هو خاصية هيكلية للعبة إعادة البناء كما تُلعب حاليًا.

RECAP: نهج بديل

بدلاً من محاولة تصحيح اختبار إعادة البناء، تقترح الورقة استراتيجية مختلفة. RECAP، الترميزات القابلة للقراءة عبر المُتنبئات المساعدة المُدرَّبة بشكل مشترك، تُدرِّب رؤوس المصنفات الخطية جنبًا إلى جنب مع النموذج المستهدف، مع الحفاظ على المحتوى الداخلي المحدد قابلاً للفك بشكل مستقل. صرحت أجهزة التمثيل اللفظي الجديدة المُدرَّبة على نماذج مُعدة بواسطة RECAP بالمحتوى المحدد بصدق، واختفت الرموز المتكيفة بشكل مشترك. يبلغ المؤلفون عن تكلفة +0.001 nats في حيرة النموذج.

على صندوق رمل مُدرَّب بحقيقة أساسية اصطناعية، حقق جهاز التمثيل اللفظي المُدرَّب بواسطة RECAP درجة حقيقة مماثلة للحقيقة الأساسية المعروفة. تتكرر النتيجة على نموذج Pythia-160M المُدرَّب مسبقًا: أصبح المحتوى المحدد قابلاً للكشف بشكل موثوق بواسطة أداة استقصاء. جهاز تمثيل لفظي جديد نقله جزئيًا فقط (درجة حقيقة 0.44، 0.46 مقابل عنصر تحكم قريب من الصفر في النسخة غير المُدربة على RECAP)، مما يشير إلى أن الطريقة ليست حلاً كاملاً على نطاق واسع لكنها تحسين ذو معنى.

المتانة العدائية

تأتي أقوى نتيجة من الإعداد العدائي. قام المؤلفون ببناء خصم يعدل تفسير جهاز التمثيل اللفظي لتعظيم درجة إعادة البناء مع إدخال الأكاذيب، مما أدى فعليًا إلى قمع حوالي 87% من العقوبة المفروضة على الادعاءات الكاذبة. انهار AUC للكشف بواسطة أداة استقصاء قياسية إلى 0.51، وهو عشوائي إحصائيًا. لكن أداة استقصاء مُدرَّبة بواسطة RECAP حافظت على AUC قدره 0.95، مشيرة إلى الأكاذيب المكبوتة.

الأرقام لافتة للنظر: AUC 0.95 مقابل 0.51 ضد نفس الخصم، على نفس النموذج، مع نفس التعديلات. لا تستطيع أداة الاستقصاء الضابطة معرفة ما إذا كان جهاز التمثيل اللفظي يكذب. ترى أداة استقصاء RECAP الكذبة باستمرار.

المخاطر على السلامة وقابلية التفسير

بالنسبة لمجتمع قابلية التفسير، الرسالة الرئيسية للورقة هي رسالة تحذيرية: درجات إعادة البناء العالية لا تثبت صحة الادعاءات الفردية. لا يمكن للباحث الذي يدير جهاز تمثيل لفظي على نموذج حاسم للسلامة أن يثق في التفسير فقط لأن إعادة البناء تبدو جيدة. بالنسبة لسلامة الذكاء الاصطناعي، فإن الدلالة مختلفة. RECAP تجعل المحتوى الداخلي المحدد قابلاً للتحقق بشكل مستقل مقابل المُحَقِّقات، بدلاً من الاعتماد على نثر يمكن للنموذج التلاعب به. أداة استقصاء مستقلة تُسَجِّل الادعاءات الصحيحة لجهاز التمثيل اللفظي فوق ادعاءاته الكاذبة بمعدل AUC قدره 0.96، مقابل 0.82 بدون RECAP.

الطريقة لا تُقدَّم كحل جاهز للتشغيل، حيث أن تدريب الرؤوس الخطية جنبًا إلى جنب مع النموذج المستهدف يتطلب تعديل خط أنابيب التدريب، وتكرار Pythia يُظهر أن جهاز التمثيل اللفظي الجديد يلتقط فقط حوالي نصف الحقيقة. لكن الاتجاه واضح: بدلاً من محاولة إصلاح اختبار إعادة البناء، قم ببناء نظام حيث يمكن فك تشفير الحقائق المحددة عبر قناة منفصلة لا يمكن لجهاز التمثيل اللفظي تزييفها.

الورقة متاحة على arXiv (مُقدمة في 22 يوليو 2026) إلى جانب مستودعات الكود والبيانات.