Modèles formels pour l’IA explicable : des explications pour les arbres de décision

(Cet exposé se fera à Metz.)

Le besoin et la motivation pour l’Intelligence Artificielle Explicable (XAI) reposent principalement sur deux objectifs : justification et validation. Les explications permettent de justifier les résultats d’un modèle d’apprentissage automatique en fournissant les motifs du raisonnement suivi par le modèle. Une fois extraites, ces explications doivent être validées afin de s’assurer qu’elles correspondent aux intentions et aux attentes des utilisateurs du système d’IA considéré.

Nous avons développé des méthodes de génération d’explications locales post-hoc, en commençant par étudier l’intelligibilité computationnelle des classifieurs booléens, caractérisée par leur capacité à répondre à des requêtes d’explicabilité en temps polynomial. Nous avons montré que l’intelligibilité computationnelle des arbres de décision est supérieure à celle de nombreux autres modèles d’apprentissage automatique, ce qui nous a conduits à nous focaliser sur ces arbres comme modèle d’apprentissage principal.

Nous avons étudié la capacité des arbres de décision à extraire, minimiser et compter les explications abductives et contrastives. Nous avons constaté que l’ensemble complet des raisons suffisantes pour une instance peut être de taille exponentielle, rendant difficile, voire impossible, sa génération exhaustive. De plus, deux raisons suffisantes pour une même instance peuvent différer significativement.

Pour synthétiser l’ensemble des raisons suffisantes pour une instance, nous avons introduit les concepts d’attribut nécessaire, d’attribut pertinent, ainsi que le pouvoir explicatif d’un attribut. Pour réduire le nombre d’explications à fournir à l’utilisateur, nous avons également développé des modèles de préférence et des algorithmes générant des explications en exploitant ces préférences. Cette démarche présente plusieurs avantages : elle permet de rechercher des explications abductives adaptées aux utilisateurs tout en réduisant considérablement leur nombre.

Cependant, même en se restreignant aux explications préférées, celles-ci peuvent rester trop volumineuses pour être interprétables par les humains, en raison des limitations cognitives. Pour relever ce défi, nous avons abordé la réduction de la taille des explications tout en maintenant une probabilité élevée de prédiction exacte. Ce problème est difficile en général, même pour les arbres de décision. Pour le surmonter, nous avons exploré l’approximation des explications probabilistes en utilisant le concept de super-modularité.

Nous avons développé deux algorithmes gloutons (GA et GD) pour la minimisation super-modulaire. L’efficacité de ces algorithmes dépend de la courbure de la fonction d’erreur non normalisée, qui mesure la précision de l’explication. Empiriquement, nous avons démontré l’efficacité de ces algorithmes.