الأثر السببي الاحتمالي يستهدف النقطة العمياء في SHAP

يجيب التفسير السببي عن سؤال ضيق: بالنظر إلى ما حدث فعلاً، أي المدخلات أحدثت الفرق؟ توجد إجابات مبدئية لهذا السؤال. لكنها كانت أيضًا عديمة الجدوى حسابيًا بعد نطاق النموذج المبسّط، لأن إنتاج إجابة واحدة يعني المرور عبر السيناريوهات المضادة للواقع التي لم يرصدها أحد.

تجادل ورقة نُشرت على arXiv في 3 سبتمبر 2026 بأن هذه المقايضة اختيار تصميمي لا قانون. يُسمى الإطار الأثر السببي الاحتمالي، أو PCI، ويتمثل تحرّكه المركزي في التوقف عن التعامل مع التفسير كحُكم يُحسب بدقة والبدء في التعامل معه ككمية تُقدَّر.

معسكران والتناقض بينهما

كما يصوغه الملخص، تنقسم أدوات التفسير القائمة إلى معسكرين. تُصدر السببية الفعلية (AC) أحكامًا مبدئية حول المدخلات التي تستحق الفضل أو اللوم، لكن لنماذج بحجم مبسّط فقط، لأن حساب تلك الأحكام يتطلب تعداد السيناريوهات المضادة للواقع. أما أساليب الإسناد القابلة للتوسع مثل SHAP، وحتى SHAP السببي، فهي أقل تكلفة بكثير، لكنها تتجاهل جزئيًا على الأقل البنية السببية التي وَلّدت البيانات. والنقطة الأحدّ هي النتيجة: يمكن لتلك الأساليب أن تعيد إجابات تتعارض مع تحليل سببي دقيق.

يُبنى PCI على السببية الفعلية وعلى مفاهيم بيرل لاحتمال الضرورة والكفاية. ثم يعيد صياغة المسألة بوصفها تقديرًا على نموذج سببي احتمالي يمكن لأخذ عينات مونت كارلو تقريبه. توجد ثلاثة مدخلات: توزيع على التفسيرات المرشحة، وتوزيع على القيم المضادة للواقع، ودالة تنقيط. والمخرَج تفسير متدرج لا حكم بنعم أو لا، مع احتمال مرفق بكل مرشح.

ما يزعم الإطار أنه يضيفه

تقدّم الورقة AC واحتمال السببية عند بيرل كحالتين متدهورتين من PCI. هذه هي الطريقة المعتادة التي يجادل بها إطار جديد بأنه يحتوي أسلافه بدل أن ينافسهم، وهي لا تصح إلا إذا تصرفت الحالة العامة كما ينبغي. والحالة العامة هي ما يُفترض أن يختبره التقييم.

أكثر بند ملموس يذكره الملخص هو الأخير: نموذج تعلم آلة سببي منشور فعليًا ومدرَّب على ملايين نقاط البيانات. وتغطي بقية القائمة أمثلة اصطناعية وواقعية، وفحوص اتساق مقابل AC، وتجارب توسّع، وأنظمة ديناميكية معقدة ذات قيم متصلة.

حيث تتوقف الأدلة

لا يظهر في الملخص أي رقم دقة، ولا مقارنة لزمن التشغيل، ولا درجة خط أساس. وورقة تكون حجتها كلها قائمة على الجدوى الحسابية، يكون الرقم الغائب هو أول ما يبحث عنه المراجعون والممارسون في النص الكامل. كما لا تحمل القائمة أي إحالة إلى دورية، لذا يظل الادعاء المركزي للإطار، كما هو معروض، حجة حول التصميم لا نتيجة مُبرهَنة.

وهذا ليس سببًا لرفضه. بل سبب لقراءة الادعاءات كادعاءات. الفجوة التي يستهدفها PCI فجوة حقيقية، والمعسكران اللذان يصفهما ليسا رجلًا من قش: فالتوتر بين أحكام سببية مبدئية على نماذج صغيرة وإسناد سريع على نماذج كبيرة هو المقايضة التي تعيشها الفرق بالفعل في الإنتاج.

لماذا تغادر الفجوة السببية المختبر

تسافر درجات الإسناد أبعد مما تسافر افتراضاتها. فهي تنتهي في بطاقات النماذج وملفات التدقيق والإفصاحات التنظيمية وتقارير ما بعد الحوادث، حيث يكون السؤال المطروح سببيًا عادة حتى عندما لا تكون الأداة التي أنتجت الرقم كذلك: هل تسبب هذا المدخل في النتيجة، أم تحرّك فقط إلى جانبها؟ ويمكن لأسلوب إسناد يتجاهل بنية البيانات أن ينتج ترتيبًا يصمد أمام كل مراجعة داخلية ومع ذلك يوجّه الفريق إلى المدخل الخاطئ لإصلاحه.

ما ينبغي مراقبته

شيئان سيحسمان ما إذا كان PCI سيغادر الورقة. الأول هو زمن التشغيل على الأنظمة الديناميكية المتصلة التي يذكرها الملخص، لأن مقدّرات مونت كارلو تقايض الدقة بالتكلفة، وعلى الورقة أن تُظهر أن المقايضة تصبّ في مصلحتها على النطاق الذي يسقط عنده AC. والثاني هو ما إذا كان النموذج المنشور في ذلك التقييم موصوفًا بتفصيل يكفي ليعيد أي شخص آخر النتيجة. فالملخص لا يسميه، ولا يقول ما يتنبأ به، ولا يحدد كيف سجّل PCI نتيجته مقابله.

وهناك خلاصة أضيق تنطبق في كل الأحوال على الفرق التي تشغّل الإسناد اليوم. ترتيب على نمط SHAP هو عبارة عن سلوك النموذج تحت توزيع البيانات. وهو ليس عبارة عن السبب، وقد يختلف الاثنان حتى عندما يكون الحسابان صحيحين.