DeepVis Toolbox 

Communauté d’assistance GitHub Interprétabilité du modèle

Il s’agit du code requis pour exécuter la Deep Visualization Toolbox, ainsi que pour générer les visualisations neurone par neurone à l’aide d’une optimisation régularisée. La boîte à outils et les méthodes sont décrites de manière informelle ici et de manière plus formelle dans cet article :

Jason Yosinski, Jeff Clune, Anh Nguyen, Thomas Fuchs et Hod Lipson. Comprendre les réseaux de neurones grâce à la visualisation approfondie. Présenté au Deep Learning Workshop, International Conference on Machine Learning (ICML), 2015.

Caractéristiques

Prop avant/arrière : les images peuvent être diffusées à travers le réseau pour visualiser les activations, et les dérivées de n’importe quelle unité par rapport à toute autre unité peuvent être calculées à l’aide du backprop. En plus du backprop traditionnel, la déconv de Zeiler et Fergus (2014) est prise en charge comme moyen de faire circuler les informations vers l’arrière à travers le réseau.

Visualisations par unité : trois types de visualisations par unité peuvent être calculées pour un réseau : image maximale, déconversion de l’image maximale, maximisation de l’activation via une optimisation régularisée – mais ces visualisations doivent être calculées en dehors de la boîte à outils et enregistrées au format jpg.

Site officiel

Tutoriel et documentation

Enter your contact information to continue reading