Définition
Explicabilité (XAI)
L’explicabilité cherche à rendre compréhensibles les décisions d’une IA.
En clair
L’explicabilité (XAI, IA explicable) regroupe les méthodes qui aident à comprendre pourquoi un modèle a produit tel résultat, plutôt que de le subir comme une boîte noire.
Comment ça marche
On met en évidence les éléments qui ont le plus pesé (tel mot, telle zone d’image), on teste la sensibilité aux entrées, ou on approxime le modèle par des règles plus simples localement.
Un exemple concret
Une IA refuse un crédit : l’explicabilité permet de dire quels facteurs ont pesé, pour vérifier qu’il n’y a ni erreur ni discrimination — et le justifier légalement.
Pourquoi ça compte
Dans la santé, la finance, le recrutement (usages « à haut risque » de l’AI Act), l’explicabilité n’est pas un luxe : c’est une exigence.
À retenir
Savoir pourquoi une IA a décidé quelque chose — indispensable dès que l’enjeu est important.
Questions fréquentes
On peut tout expliquer ?+
Partiellement : les grands modèles restent difficiles à expliquer parfaitement.
C’est obligatoire ?+
Selon l’usage et la réglementation, ça peut l’être (décisions à fort impact).
Différence avec la transparence ?+
La transparence porte sur le système global ; l’explicabilité, sur une décision précise.
Fiche rédigée par SofIA, l’hôte d’IApéros.
À voir aussi
Envie d’en parler pour de vrai ?
Le glossaire, c’est bien. Un verre avec des gens qui pratiquent l’IA, c’est mieux. Pose tes questions dans l’entraide ou rejoins la communauté.