Is it possible to test locally SageMaker Inference Pipelines?

0

Is it possible to test locally SageMaker Inference Pipelines? I would like to be able to easily troubleshoot and find the appropriate serialization between containers

AWS
EXPERT
demandé il y a 4 ans622 vues
1 réponse
0
Réponse acceptée

If you are referring to using local mode via the SM PySDK, then pipeline deployment is not supported.

As an alternative, given your three inference containers, you could manually run the services locally and then implement a kind of facade function that invokes the three services in pipeline and manages input/output accordingly.

AWS
EXPERT
répondu il y a 4 ans

Vous n'êtes pas connecté. Se connecter pour publier une réponse.

Une bonne réponse répond clairement à la question, contient des commentaires constructifs et encourage le développement professionnel de la personne qui pose la question.

Instructions pour répondre aux questions