DeepLIFT  –

Communauté d’assistance GitHub Interprétabilité du modèle

Cette version de DeepLIFT a été testée avec Keras 2.2.4 et tensorflow 1.14.0. Consultez cette question FAQ pour plus d’informations sur d’autres implémentations de DeepLIFT qui peuvent fonctionner avec différentes versions de tensorflow/pytorch, ainsi qu’avec un plus large éventail d’architectures. Voir les balises pour les anciennes versions.

Ce référentiel implémente les méthodes de « Learning Important Features Through Propagating Activation Differences » de Shrikumar, Greenside & Kundaje, ainsi que d’autres méthodes couramment utilisées telles que les gradients, gradient-times-input (équivalent à une version de Layerwise Relevance Propagation pour ReLU). réseaux), backprop guidé et gradients intégrés.

Caractéristiques

(1) DeepExplain utilise la rétropropagation de gradient standard pour les opérations par éléments (telles que celles présentes dans les LSTM/GRU/Attention).

(2) DeepExplain (par Ancona et al.) ne prend pas en charge la référence dynamique démontrée dans le dépôt DeepLIFT (c’est-à-dire le cas où une référence différente est générée en fonction des propriétés de l’exemple d’entrée, comme le « dinucléotide mélangé » références utilisées en génomique).

(3) DeepSHAP/DeepExplainer est implémenté de telle sorte que plusieurs références peuvent être utilisées pour un seul exemple et que les attributions finales sont moyennées sur chaque référence.

Site officiel

Tutoriel et documentation

Enter your contact information to continue reading