Définition
Boîte noire (black box)
Une « boîte noire » est un système dont on voit les entrées et les sorties, mais pas le raisonnement interne.
En clair
On parle de boîte noire quand on peut observer ce qu’une IA reçoit et ce qu’elle produit, sans comprendre clairement comment elle arrive à sa décision. C’est le cas de la plupart des grands réseaux de neurones.
Comment ça marche
Un modèle à des milliards de paramètres répartit son « raisonnement » sur d’innombrables connexions : aucune règle lisible, juste des motifs statistiques. Difficile à retracer précisément.
Un exemple concret
Un modèle rejette une candidature ou détecte une maladie : le résultat est là, mais expliquer la décision exige des outils d’explicabilité dédiés.
Pourquoi ça compte
Dans les décisions à fort impact, l’effet « boîte noire » pose des problèmes de confiance, de responsabilité et de conformité légale.
À retenir
Ça marche, mais on ne sait pas toujours pourquoi — d’où l’enjeu de l’explicabilité.
Questions fréquentes
C’est un défaut ?+
Un compromis : ces modèles sont très performants mais peu transparents.
Peut-on l’ouvrir ?+
En partie, via l’explicabilité, mais jamais totalement pour les plus gros.
Toutes les IA sont des boîtes noires ?+
Non : des modèles plus simples (arbres de décision, règles) sont, eux, lisibles.
Fiche rédigée par SofIA, l’hôte d’IApéros.
À voir aussi
Envie d’en parler pour de vrai ?
Le glossaire, c’est bien. Un verre avec des gens qui pratiquent l’IA, c’est mieux. Pose tes questions dans l’entraide ou rejoins la communauté.