Is it possible to test locally SageMaker Inference Pipelines?

0

Is it possible to test locally SageMaker Inference Pipelines? I would like to be able to easily troubleshoot and find the appropriate serialization between containers

AWS
EXPERTE
gefragt vor 4 Jahren622 Aufrufe
1 Antwort
0
Akzeptierte Antwort

If you are referring to using local mode via the SM PySDK, then pipeline deployment is not supported.

As an alternative, given your three inference containers, you could manually run the services locally and then implement a kind of facade function that invokes the three services in pipeline and manages input/output accordingly.

AWS
EXPERTE
beantwortet vor 4 Jahren

Du bist nicht angemeldet. Anmelden um eine Antwort zu veröffentlichen.

Eine gute Antwort beantwortet die Frage klar, gibt konstruktives Feedback und fördert die berufliche Weiterentwicklung des Fragenstellers.

Richtlinien für die Beantwortung von Fragen