L’interprétabilité est essentielle pour :

Débogage du modèle – Pourquoi mon modèle a-t-il commis cette erreur ?

Ingénierie des fonctionnalités – Comment puis-je améliorer mon modèle ?

Détection des problèmes d’équité – Mon modèle est-il discriminatoire ?

Coopération humain-IA – Comment puis-je comprendre et faire confiance aux décisions du modèle ?

Conformité réglementaire : mon modèle satisfait-il aux exigences légales ?

Applications à haut risque – Santé, finance, justice, …