1 Respuesta
- Más nuevo
- Más votos
- Más comentarios
0
One of the best ways to debug a custom inference script would be to start off with using the SageMaker "local mode". Once you are sure that your script is working fine, move over to hosting on the SageMaker endpoint. Here are some of the examples to get started.
Example for a TF serving model that I have a custom Inference script, I would use local mode as shown below for my testing-
from sagemaker.tensorflow.model import TensorFlowModel
from sagemaker.local import LocalSession
tensorflow_serving_model = TensorFlowModel(
model_data=model_data,
role=sagemaker_role,
framework_version="2.6",
# sagemaker_session=sagemaker_session,
sagemaker_session=LocalSession()
)
respondido hace 2 años
Contenido relevante
- OFICIAL DE AWSActualizada hace un año
- OFICIAL DE AWSActualizada hace 4 meses
- OFICIAL DE AWSActualizada hace 2 años
- OFICIAL DE AWSActualizada hace un año