XAI est une bibliothèque d’apprentissage automatique conçue avec l’explicabilité de l’IA en son cœur. XAI contient divers outils permettant l’analyse et l’évaluation des données et des modèles. La bibliothèque XAI est gérée par l’Institute for Ethical AI & ML et a été développée sur la base des 8 principes de l’apprentissage automatique responsable.

Nous considérons le défi de l’explicabilité comme plus qu’un simple défi algorithmique, qui nécessite une combinaison des meilleures pratiques de la science des données avec des connaissances spécifiques au domaine. La bibliothèque XAI est conçue pour permettre aux ingénieurs en apprentissage automatique et aux experts du domaine concerné d’analyser la solution de bout en bout et d’identifier les écarts pouvant entraîner des performances sous-optimales par rapport aux objectifs requis. Plus largement, la bibliothèque XAI est conçue à l’aide des 3 étapes de l’apprentissage automatique explicable, qui impliquent 1) l’analyse des données, 2) l’évaluation du modèle et 3) le suivi de la production.