Model Server for Apache MXNet (MMS) 

Communauté d’assistance GitHub Service et surveillance du modèle

Multi Model Server (MMS) est un outil flexible et facile à utiliser pour servir des modèles d’apprentissage en profondeur formés à l’aide de n’importe quel framework ML/DL.

Utilisez la CLI du serveur MMS ou les images Docker préconfigurées pour démarrer un service qui configure les points de terminaison HTTP pour gérer les demandes d’inférence de modèle.

Caractéristiques

Serving Quick Start – Tutoriel d’utilisation de base du serveur

Model Archive Quick Start – Tutoriel qui vous montre comment empaqueter un fichier d’archive de modèle.

Installation – Procédures d’installation et de dépannage.

Servir des modèles – Explique comment utiliser un serveur multimodèle.

API REST – Spécifications sur le point de terminaison de l’API pour MMS

Model Zoo – Une collection de fichiers d’archive de modèle MMS (.mar) que vous pouvez utiliser avec MMS.

Packaging Model Archive – Commentaire explicite empaqueter le fichier d’archive de modèle, en utilisant model-archiver.

Docker – Comment utiliser MMS avec Docker et les services cloud

Journalisation – Comment configurer la journalisation

Métriques – Comment configurer les métriques

Site officiel

Tutoriel et documentation

Enter your contact information to continue reading