Las decisiones de tu red neuronal ahora se pueden rastrear hasta casos de entrenamiento específicos

Las redes neuronales modernas guían decisiones de alto riesgo en diagnósticos médicos, aprobación de créditos y licitaciones de energía. Pero cuando un modelo puntúa una acción sobre otra, el razonamiento sigue siendo opaco: la experiencia de entrenamiento se absorbe en parámetros aprendidos, no se expone como una memoria de casos inspeccionable. Un preprint de la Universidad de Ciencia y Tecnología de Huazhong ahora proporciona un puente algebraico exacto entre las puntuaciones de acción neuronales y los casos de entrenamiento que las moldean.

En From Neural Network Decisions to Training Cases: An Exact Account via Case-Based Decision Theory, los investigadores Manli Yan, Yuebin Lin, Yaowen Yu y Yong Zhao muestran que para lecturas de mínimos cuadrados ordinarios (OLS) de representación fija, cada puntuación de acción es exactamente una suma ponderada de los retornos de los casos de entrenamiento. Los pesos provienen de la geometría empírica de Gram de la representación, una relación puramente algebraica que hace explícita la evidencia a nivel de caso.

Una descomposición exacta basada en casos

La idea clave se basa en la teoría de decisiones basada en casos (CBDT), que modela la toma de decisiones como la agregación de apoyo de resultados a partir de casos recordados. La CBDT formaliza un patrón humano familiar: evaluamos las acciones actuales comparando el problema presente con experiencias pasadas y sumando los resultados de casos similares.

Los autores demuestran que una representación neuronal fija, equipada con una sonda de capa superior OLS, produce puntuaciones de acción que admiten la misma forma estructural. Para una entrada de prueba y una acción candidata, la puntuación es igual a una suma sobre los casos de entrenamiento de un coeficiente multiplicado por el retorno de esa acción. El coeficiente está determinado por la geometría del producto interno de la representación: α_i(x) = φ(x)^⊤G⁻¹φ(x_i), donde G es la matriz de Gram empírica.

Esta descomposición es exacta cuando la matriz de representación tiene rango completo por columnas, y admite una versión regularizada por Tikhonov cuando está mal condicionada. El vector de coeficientes es la solución única de norma mínima para un sistema lineal consistente, lo que lo hace canónico en lugar de arbitrario.

Semántica: ¿similitud o influencia con signo?

La forma algebraica coincide con la estructura de agregación de la CBDT, pero la semántica difiere de manera crucial. La CBDT utiliza pesos de similitud no negativos, una restricción que refleja cómo los humanos recuperan y ponderan experiencias pasadas. Los coeficientes inducidos por OLS, por el contrario, tienen signo, no están normalizados y se derivan de la geometría de Gram en lugar de la similitud.

Los autores identifican un régimen suficiente bajo el cual los coeficientes se reducen a productos internos escalados y pueden coincidir con la semántica de similitud de la CBDT: cuando la representación está blanqueada de modo que G = n I_H. Fuera de este régimen, que es raro en la práctica, los coeficientes se interpretan mejor como términos de influencia geométrica de Gram con signo, no como pesos de similitud. Los coeficientes positivos corresponden a casos cercanos que aumentan la puntuación de la acción; los coeficientes negativos actúan como correcciones de campo lejano que la compensan.

Esta distinción evita que los usuarios confundan influencia con similitud y aclara lo que realmente significan los casos recuperados.

Señales de auditoría sin reentrenamiento

La descomposición produce tres señales de auditoría prácticas para la inspección posterior al entrenamiento:

• Puntuación de auditoría de casos: Para un punto de prueba y una acción candidata, la contribución con signo de cada caso de entrenamiento ψ_i(a, x) = α_i(x) r_i,a rastrea qué casos aumentan, disminuyen o compensan la puntuación. Ordenar por contribución absoluta revela los casos más influyentes.
• Entropía de influencia para coherencia de acción: Al construir una distribución de probabilidad sobre las acciones óptimas de los k casos más influyentes, ponderada por la masa de influencia absoluta, el método produce una medida de entropía. Una entropía baja significa que los casos influyentes apuntan a una sola acción; una entropía alta revela evidencia dispersa o conflictiva.
• Diagnóstico de riesgo de influencia de casos: Combinar la entropía de influencia con un término de desacuerdo de Gini entre los 10 casos más influyentes produce una puntuación de riesgo que señala predicciones con soporte débil, aquellas donde las influencias de casos de entrenamiento más fuertes proporcionan evidencia de acción conflictiva.

Las tres señales solo requieren ajustar una sonda de capa superior OLS en la representación fija. No es necesario reentrenar la representación, acceder a la trayectoria de optimización ni conocer la función de pérdida original.

Validación experimental

Los experimentos cubren un generador CBDT sintético con verdad fundamental conocida, licitaciones de energía PJM con observaciones de carga reales y dos tareas de decisión proxy UCI (Adult Income y Default Credit). En cinco semillas aleatorias, el método logra un 96% de concordancia con la acción óptima de CBDT en datos sintéticos y fuertes correlaciones de reconstrucción de puntuación en tareas reales (0.9998, 0.9972 y 0.9592 para acciones PJM).

En la comparación de atribución contra funciones de influencia, selección de puntos representantes, TracIn y una línea base de producto interno, el coeficiente propuesto alcanza la consistencia de acción Top-30 más alta (0.941 ± 0.030) mientras se mantiene competitivo en la correlación de Pearson con las contribuciones de casos reales (0.368 ± 0.172).

El costo de auditoría promedia 58.6 ms por consulta en la implementación en caché, más alto que las líneas base de submilisegundos, pero aceptable para escenarios de auditoría posteriores al entrenamiento donde la recuperación de casos relevantes para la decisión es la prioridad.

Límites y trabajo futuro

Los autores son claros sobre las limitaciones del marco. La contabilidad es exacta solo para lecturas OLS de representación fija; las cabezas no lineales de extremo a extremo no están cubiertas. Los experimentos de covariable real utilizan retornos de acción sintéticos o proxy, y las memorias de entrenamiento grandes pueden requerir aproximaciones de Nyström. Extender el análisis a sondas no lineales y retornos contrafactuales estimados sigue abierto.

A pesar de estos límites, el trabajo proporciona una lente práctica de auditoría posterior al entrenamiento para decisiones neuronales a través de evidencia explícita basada en casos. Cuando un modelo puntúa una solicitud de préstamo, un diagnóstico o una oferta de energía, el marco ahora puede responder: qué casos de entrenamiento impulsaron esa puntuación, qué resultados conllevaban y qué tan coherente es su soporte.