Merlin 

Communauté d’assistance GitHub Service et surveillance du modèle

Merlin est une plateforme de déploiement et de service de modèles d’apprentissage automatique. Le projet est né de la conviction que le déploiement du modèle doit être :

Facile et libre-service : l’humain ne doit pas devenir le goulot d’étranglement pour le déploiement du modèle en production.

Évolutif : le modèle déployé doit être capable de gérer l’échelle de Gojek et au-delà.

Rapide : le framework doit pouvoir permettre à l’utilisateur d’itérer rapidement.

Rentable : il devrait fournir tous les avantages ci-dessus de manière rentable.

Caractéristiques

Projet : Projet représente un espace de noms pour une collection de modèles. Par exemple, un projet peut concerner des recommandations alimentaires, l’attribution de chauffeurs, la tarification des courses, etc.

Modèle : chaque modèle est associé à un (et un seul) projet et point de terminaison du modèle. Le modèle peut également avoir zéro ou plusieurs versions de modèle. Dans la hiérarchie des entités de MLflow, un modèle correspond à une expérience MLflow.

Point de terminaison du modèle : chaque modèle possède son propre point de terminaison qui contient une règle de routage vers le point de terminaison de la version active du modèle.

Version du modèle : la version du modèle représente une itération au sein d’un modèle. Une version de modèle est associée à une exécution dans MLflow. Une version de modèle peut être déployée en tant que service, il peut y avoir plusieurs déploiements de version de modèle avec chacun un point de terminaison différent.

Point de terminaison de version de modèle : un point de terminaison de version de modèle est un moyen d’obtenir des résultats d’inférence de modèle en temps réel, sur le réseau (HTTP).

Environnement : le nom de l’environnement est une propriété destinée à l’utilisateur qui sera utilisée pour déterminer le cluster Kubernetes cible sur lequel un modèle sera déployé. L’environnement possède deux propriétés importantes : le nom et le cluster Kubernetes.

Site officiel

Tutoriel et documentation

Enter your contact information to continue reading