يمكن الآن تتبع قرارات شبكتك العصبية إلى حالات تدريبية محددة

توجه الشبكات العصبية الحديثة القرارات عالية المخاطر في التشخيص الطبي، والموافقة على الائتمان، والمزايدة على الطاقة. ولكن عندما يسجل النموذج إجراءً على آخر، يظل المنطق غامضًا: يتم امتصاص تجربة التدريب في معاملات مستفادة، وليس كذاكرة حالات قابلة للفحص. توفر الآن ورقة بحثية من جامعة هواتشونغ للعلوم والتكنولوجيا جسرًا جبريًا دقيقًا بين درجات الإجراءات العصبية وحالات التدريب التي تشكلها.

في مقال من قرارات الشبكة العصبية إلى حالات التدريب: حساب دقيق عبر نظرية القرار المستند إلى الحالات، يوضح الباحثون مانلي يان، ويوبين لين، ويواوين يو، ويونغ تشاو أنه بالنسبة للقراءات الخطية ذات التمثيل الثابت بطريقة المربعات الصغرى العادية (OLS)، تكون كل درجة إجراء بالضبط مجموعًا موزونًا لعوائد حالات التدريب. تأتي الأوزان من هندسة غرام التجريبية للتمثيل، وهي علاقة جبرية بحتة تجعل الأدلة على مستوى الحالات واضحة.

تحليل دقيق قائم على الحالات

تبني الفكرة الرئيسية على نظرية القرار المستند إلى الحالات (CBDT)، والتي تصمم عملية اتخاذ القرار على أنها تجميع دعم النتائج من الحالات المتذكرة. تُضفي CBDT طابعًا رسميًا على نمط بشري مألوف: نحن نقيم الإجراءات الحالية من خلال مقارنة المشكلة الحالية بالتجارب السابقة وجمع نتائج الحالات المتشابهة.

يظهر المؤلفون أن تمثيلًا عصبيًا ثابتًا، مزودًا بمسبار من الطبقة العليا بطريقة OLS، ينتج درجات إجراءات تقبل نفس الشكل الهيكلي. بالنسبة لمدخل اختبار وإجراء مرشح، تساوي الدرجة مجموعًا على حالات التدريب لمعامل مضروبًا في عائد ذلك الإجراء. يتم تحديد المعامل بواسطة هندسة الضرب الداخلي للتمثيل: α_i(x) = φ(x)^⊤G⁻¹φ(x_i)، حيث G هي مصفوفة غرام التجريبية.

هذا التحليل دقيق عندما تكون مصفوفة التمثيل ذات رتبة عمود كاملة، ويقبل نسخة منتظمة بطريقة تيخونوف عندما تكون غير مستقرة. متجه المعامل هو الحل الوحيد ذو المعيار الأدنى لنظام خطي متسق، مما يجعله قانونيًا وليس عشوائيًا.

الدلالات: تشابه أم تأثير موقّع؟

يتطابق الشكل الجبري مع هيكل التجميع في CBDT، لكن الدلالات تختلف بطريقة حاسمة. تستخدم CBDT أوزان تشابه غير سالبة، وهو قيد يعكس كيفية استرجاع البشر ووزن التجارب السابقة. المعاملات الناتجة عن OLS، على النقيض من ذلك، موقعة وغير معيارية ومستمدة من هندسة غرام بدلاً من التشابه.

يحدد المؤلفون نظامًا كافيًا تنخفض فيه المعاملات إلى ضرب داخلي مقياس ويمكن أن تطابق دلالات تشابه CBDT: عندما يتم تبييض التمثيل بحيث G = n I_H. خارج هذا النظام، وهو نادر في الممارسة، يتم تفسير المعاملات بشكل أفضل كمصطلحات تأثير هندسي غرامي موقعة، وليس أوزان تشابه. المعاملات الموجبة تتوافق مع الحالات القريبة التي ترفع درجة الإجراء؛ المعاملات السالبة تعمل كتصحيحات بعيدة المدى تعوضها.

يمنع هذا التمييز المستخدمين من الخلط بين التأثير والتشابه ويوضح ما تعنيه الحالات المسترجعة فعليًا.

إشارات تدقيق دون إعادة تدريب

يوفر التحليل ثلاث إشارات تدقيق عملية للفحص بعد التدريب:

• درجة تدقيق الحالة: بالنسبة لنقطة اختبار وإجراء مرشح، مساهمة كل حالة تدريب موقعة ψ_i(a, x) = α_i(x) r_i,a تكشف الحالات التي ترفع أو تخفض أو تعوض الدرجة. فرز حسب المساهمة المطلقة يكشف أكثر الحالات تأثيرًا.
• إنتروبيا التأثير لتماسك الإجراء: من خلال بناء توزيع احتمالي على الإجراءات المثلى لأكثر الحالات تأثيرًا (k) العليا، موزونة بكتلة التأثير المطلقة، تنتج الطريقة مقياس إنتروبيا. الإنتروبيا المنخفضة تعني أن الحالات المؤثرة تشير إلى إجراء واحد؛ الإنتروبيا العالية تكشف عن أدلة مشتتة أو متضاربة.
• تشخيص خطر تأثير الحالة: الجمع بين إنتروبيا التأثير ومصطلح خلاف جيني بين أكثر 10 حالات تأثيرًا ينتج درجة خطر تضع علامة على التنبؤات ضعيفة الدعم، تلك التي توفر فيها تأثيرات حالة التدريب الأقوى أدلة إجراءات متضاربة.

تتطلب الإشارات الثلاث فقط تركيب مسبار من الطبقة العليا بطريقة OLS على التمثيل الثابت. لا حاجة لإعادة تدريب التمثيل، ولا الوصول إلى مسار التحسين، ولا معرفة دالة الخسارة الأصلية.

التحقق التجريبي

تغطي التجارب مولد CBDT اصطناعي مع حقيقة أساسية معروفة، ومزايدة على طاقة PJM مع ملاحظات حمل حقيقية، ومهمتين بديلتين للقرار من UCI (دخل البالغين وائتمان افتراضي). عبر خمس بذور عشوائية، تحقق الطريقة توافقًا بنسبة 96% مع الإجراء الأمثل لـ CBDT على البيانات الاصطناعية وارتباطات قوية لإعادة بناء الدرجات على المهام الحقيقية (0.9998 و 0.9972 و 0.9592 لإجراءات PJM).

في مقارنة الإسناد ضد دوال التأثير، واختيار نقطة الممثل، وTracIn، وخط أساس الضرب الداخلي، حقق المعامل المقترح أعلى اتساق إجراء في أعلى 30 (0.941 ± 0.030) مع بقائه تنافسيًا على ارتباط بيرسون مع مساهمات الحالة الحقيقية (0.368 ± 0.172).

متوسط تكلفة التدقيق هو 58.6 مللي ثانية لكل استعلام في التنفيذ المخبأ، أعلى من خطوط الأساس دون المللي ثانية، لكنه مقبول لسيناريوهات التدقيق بعد التدريب حيث يكون استرجاع الحالات ذات الصلة بالقرار هو الأولوية.

الحدود والعمل المستقبلي

المؤلفون واضحون بشأن حدود الإطار. الحساب دقيق فقط لقراءات OLS ذات التمثيل الثابت؛ الرؤوس غير الخطية من البداية إلى النهاية غير مشمولة. تستخدم تجارب المتغيرات المشتركة الحقيقية عوائد إجراءات اصطناعية أو بديلة، وقد تتطلب ذاكرات التدريب الكبيرة تقديرات نيستريم. يظل توسيع التحليل ليشمل المسابير غير الخطية والعوائد المضادة المقدرة مفتوحًا.

على الرغم من هذه الحدود، يوفر العمل عدسة تدقيق عملية بعد التدريب للقرارات العصبية من خلال أدلة قائمة على الحالات صريحة. عندما يسجل النموذج طلب قرض، أو تشخيصًا، أو عرض طاقة، يمكن للإطار الآن الإجابة: أي حالات تدريبية قادت تلك الدرجة، وما النتائج التي حملتها، ومدى تماسك دعمها.