Probabilistic Causal Impact apunta al punto ciego de SHAP

Una explicación causal responde a una pregunta acotada: dado lo que realmente ocurrió, ¿qué entradas marcaron la diferencia? Existen respuestas con fundamento a esa pregunta. También han sido computacionalmente inútiles más allá de la escala de un modelo de juguete, porque producir una implica recorrer los escenarios contrafactuales que nadie observó.

Un artículo publicado en arXiv el 3 de septiembre de 2026 sostiene que ese compromiso es una decisión de diseño y no una ley. El marco se llama Probabilistic Causal Impact, o PCI, y su movimiento central es dejar de tratar la explicación como un veredicto que debe calcularse con exactitud y empezar a tratarla como una cantidad que debe estimarse.

Dos bandos y la contradicción entre ellos

Tal como lo plantea el resumen, las herramientas de explicabilidad existentes se dividen en dos bandos. La causalidad actual (AC) emite veredictos con fundamento sobre qué entradas merecen crédito o culpa, pero solo para modelos de tamaño de juguete, ya que calcular esos veredictos exige enumerar escenarios contrafactuales. Los métodos de atribución escalables como SHAP, e incluso el SHAP causal, son mucho más baratos, pero ignoran al menos parcialmente la estructura causal que generó los datos. El punto más incisivo es la consecuencia: esos métodos pueden devolver respuestas que entran en conflicto con un análisis causal cuidadoso.

PCI se construye sobre la causalidad actual y sobre las nociones de Pearl de probabilidad de necesidad y suficiencia. Luego reformula el problema como una estimación sobre un modelo causal probabilístico que el muestreo de Monte Carlo puede aproximar. Entran tres piezas: una distribución sobre explicaciones candidatas, una distribución sobre valores contrafactuales y una función de puntuación. Lo que sale es una explicación graduada en lugar de un veredicto de sí o no, con una probabilidad asociada a cada candidata.

Qué afirma aportar el marco

El artículo presenta la AC y la probabilidad de causalidad de Pearl como casos degenerados de PCI. Esa es la forma habitual en que un marco nuevo argumenta que contiene a sus predecesores en lugar de competir con ellos, y solo se sostiene si el caso general se comporta bien. El caso general es lo que la evaluación pretende sondear.

El elemento más concreto que enumera el resumen es el último: un modelo de aprendizaje automático causal desplegado en el mundo real y entrenado con millones de puntos de datos. El resto de la lista abarca ejemplos sintéticos y reales, comprobaciones de consistencia frente a la AC, experimentos de escalado y sistemas dinámicos complejos de valores continuos.

Dónde se detiene la evidencia

En el resumen no aparece ninguna cifra de precisión, comparación de tiempos de ejecución ni puntuación de referencia. Para un artículo cuyo argumento de venta es enteramente la viabilidad computacional, el número ausente es el primero que revisores y profesionales buscarán en el texto completo. El registro tampoco incluye referencia a ninguna revista, así que, tal como se presenta, la afirmación central del marco sigue siendo un argumento sobre diseño y no un resultado demostrado.

Eso no es motivo para descartarlo. Es motivo para leer las afirmaciones como afirmaciones. La brecha que PCI ataca es real, y los dos bandos que describe no son un hombre de paja: la tensión entre veredictos causales con fundamento en modelos diminutos y una atribución rápida en modelos grandes es el compromiso con el que los equipos ya conviven en producción.

Por qué la brecha causal sale del laboratorio

Las puntuaciones de atribución viajan más lejos que sus supuestos. Acaban en fichas de modelo, archivos de auditoría, presentaciones regulatorias y análisis posteriores a incidentes, donde la pregunta que se plantea suele ser causal aunque la herramienta que produjo el número no lo sea: ¿esta entrada causó el resultado o simplemente se movió junto a él? Un método de atribución que ignora la estructura de los datos puede producir una clasificación que supera todas las revisiones internas y aun así orienta a un equipo hacia la entrada equivocada que debe corregir.

Qué hay que observar

Dos cosas decidirán si PCI sale del papel. La primera es el tiempo de ejecución en los sistemas dinámicos continuos que menciona el resumen, porque los estimadores de Monte Carlo intercambian precisión por costo, y el artículo tiene que demostrar que ese intercambio le favorece en la escala donde la AC se derrumba. La segunda es si el modelo desplegado en esa evaluación se describe con suficiente detalle para que cualquier otra persona pueda reproducir el resultado. El resumen no lo nombra, no dice qué predice ni especifica cómo puntuó PCI frente a él.

Una conclusión más acotada se mantiene en cualquier caso para los equipos que hoy ejecutan atribución. Una clasificación al estilo SHAP es una afirmación sobre el comportamiento del modelo bajo la distribución de los datos. No es una afirmación sobre la causa, y ambas pueden discrepar incluso cuando los dos cálculos son correctos.