Probabilistic Causal Impact s'attaque à l'angle mort de SHAP

Une explication causale répond à une question étroite : étant donné ce qui s'est réellement produit, quelles entrées ont fait la différence ? Des réponses fondées à cette question existent. Elles se sont aussi révélées inutilisables en calcul dès que l'on dépasse l'échelle d'un modèle jouet, car en produire une suppose de parcourir les scénarios contrefactuels que personne n'a observés.

Un article publié sur arXiv le 3 septembre 2026 soutient que ce compromis relève d'un choix de conception et non d'une loi. Le cadre s'appelle Probabilistic Causal Impact, ou PCI, et son geste central consiste à cesser de traiter l'explication comme un verdict à calculer exactement pour la traiter comme une grandeur à estimer.

Deux camps et la contradiction entre eux

Comme le formule le résumé, les outils d'explicabilité existants se répartissent en deux camps. La causalité actuelle (AC) rend des verdicts fondés sur les entrées qui méritent le crédit ou le blâme, mais uniquement pour des modèles jouets, puisque le calcul de ces verdicts exige d'énumérer les scénarios contrefactuels. Les méthodes d'attribution scalables telles que SHAP, et même SHAP causal, sont bien moins coûteuses, mais elles ignorent au moins partiellement la structure causale qui a généré les données. Le point le plus tranchant est la conséquence : ces méthodes peuvent renvoyer des réponses qui entrent en conflit avec une analyse causale rigoureuse.

PCI s'appuie sur la causalité actuelle et sur les notions de probabilité de nécessité et de suffisance de Pearl. Il reformule ensuite le problème comme une estimation sur un modèle causal probabiliste que l'échantillonnage de Monte-Carlo peut approcher. Trois éléments entrent en jeu : une distribution sur les explications candidates, une distribution sur les valeurs contrefactuelles et une fonction de score. Ce qui en sort est une explication graduée plutôt qu'un verdict binaire, avec une probabilité attachée à chaque candidat.

Ce que le cadre prétend apporter

L'article présente AC et la probabilité de causation de Pearl comme des cas dégénérés de PCI. C'est la manière habituelle pour un nouveau cadre d'affirmer qu'il contient ses prédécesseurs plutôt qu'il ne les concurrence, et cela ne tient que si le cas général se comporte bien. C'est ce cas général que l'évaluation est censée sonder.

L'élément le plus concret énuméré dans le résumé est le dernier : un modèle d'apprentissage automatique causal déployé en conditions réelles et entraîné sur des millions de points de données. Le reste de la liste couvre des exemples synthétiques et réels, des contrôles de cohérence par rapport à AC, des expériences de mise à l'échelle et des systèmes dynamiques complexes à valeurs continues.

Où s'arrête la preuve

Aucun chiffre de précision, aucune comparaison de temps d'exécution, aucun score de référence n'apparaît dans le résumé. Pour un article dont tout l'argument est la faisabilité computationnelle, le chiffre manquant est celui que les relecteurs et les praticiens chercheront en premier dans le texte intégral. La notice ne comporte pas non plus de référence à une revue, de sorte que, tel que présenté, l'affirmation centrale du cadre reste un argument sur la conception plutôt qu'un résultat démontré.

Ce n'est pas une raison de l'écarter. C'est une raison de lire ces affirmations pour ce qu'elles sont. L'écart que PCI vise est réel, et les deux camps qu'il décrit ne sont pas un homme de paille : la tension entre des verdicts causaux fondés sur de minuscules modèles et une attribution rapide sur de grands modèles est le compromis avec lequel les équipes vivent déjà en production.

Pourquoi l'écart causal sort du laboratoire

Les scores d'attribution voyagent plus loin que leurs hypothèses. Ils finissent dans des fiches de modèle, des dossiers d'audit, des dépôts réglementaires et des retours d'expérience, où la question posée est généralement causale même lorsque l'outil qui a produit le chiffre ne l'est pas : cette entrée a-t-elle causé le résultat, ou a-t-elle simplement évolué en parallèle ? Une méthode d'attribution qui ignore la structure des données peut produire un classement qui survit à toutes les revues internes et oriente malgré tout une équipe vers la mauvaise entrée à corriger.

Ce qu'il faut surveiller

Deux choses décideront si PCI quitte le stade de l'article. La première est le temps d'exécution sur les systèmes dynamiques continus mentionnés dans le résumé, car les estimateurs de Monte-Carlo échangent de la précision contre du coût, et l'article doit montrer que cet arbitrage lui est favorable à l'échelle où AC s'effondre. La seconde est de savoir si le modèle déployé dans cette évaluation est décrit avec assez de détail pour que quiconque puisse reproduire le résultat. Le résumé ne le nomme pas, ne dit pas ce qu'il prédit et ne précise pas comment PCI s'est comporté face à lui.

Une conclusion plus étroite tient dans tous les cas pour les équipes qui utilisent l'attribution aujourd'hui. Un classement de type SHAP est un énoncé sur le comportement du modèle sous la distribution des données. Ce n'est pas un énoncé sur la cause, et les deux peuvent diverger même lorsque les deux calculs sont corrects.