1. Le paradoxe « Boîte Noire » vs Droit à l’explication

Plus un modèle prédictif est complexe (réseaux de neurones profonds, forêts d’arbres décisionnels avec gradient boosting), plus ses mécanismes internes sont opaques pour l’utilisateur humain. Or, la nLPD (Art. 21 : Décision individuelle automatisée) et l’AI Act confèrent au citoyen le droit d’obtenir une justification compréhensible des critères ayant conduit à une décision défavorable (refus de crédit, refus d’admission).

2. Les approches d’explicabilité : Modèles intrinsèques vs Méthodes Post-Hoc

  • Modèles interprétables par conception (Glass Box) : Régression linéaire, arbres de décision peu profonds, modèles linéaires généralisés (GLM). Leurs coefficients fournissent une explication directe.
  • Méthodes Post-Hoc pour modèles opaques (Black Box) :
    • LIME (Local Interpretable Model-agnostic Explanations) : Approche localement la décision complexe autour d’une observation spécifique par un modèle linéaire simple.
    • SHAP (SHapley Additive exPlanations) : Fondé sur la théorie des jeux coopératifs de Lloyd Shapley (Prix Nobel). SHAP quantifie la contribution marginale exacte de chaque variable à la prédiction finale.

3. Mise en œuvre concrète avec la bibliothèque SHAP

import shap

# Création de l'explorateur SHAP pour un modèle d'arbres
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(X_test)

# Affichage graphique des variables les plus déterminantes dans la décision
shap.summary_plot(shap_values, X_test)
PreviousNext