Integrated-Gradients 

Communauté d’assistance GitHub Interprétabilité du modèle

Integrated Gradient (IG) calcule le gradient de la sortie de prédiction du modèle par rapport à ses caractéristiques d’entrée et ne nécessite aucune modification du réseau neuronal profond d’origine. IG peut être appliqué à n’importe quel modèle différenciable comme une image, du texte ou des données structurées.

Caractéristiques

Sensibilité:

Pour calculer la sensibilité, nous établissons une image de base comme point de départ. Nous construisons ensuite une séquence d’images que nous interpolons d’une image de base à l’image réelle pour calculer les gradients intégrés.

Invariance de mise en œuvre

L’invariance de mise en œuvre est satisfaite lorsque deux réseaux fonctionnellement équivalents ont des attributions identiques pour la même image d’entrée et l’image de base.

Deux réseaux sont fonctionnellement équivalents lorsque leurs sorties sont égales pour toutes les entrées malgré des implémentations très différentes.

Site officiel

Tutoriel et documentation

Enter your contact information to continue reading