¿Cómo utilizo el modo local de SageMaker AI para probar los modelos?

Resolución

Para probar el modelo antes de desplegarlo en un punto de enlace de producción, puedes desplegar localmente el modelo en una instancia de cuaderno de SageMaker AI.

Antes de empezar, anota los artefactos del modelo. Los artefactos del modelo son los resultados de tu trabajo de entrenamiento que almacenas localmente o en Amazon Simple Storage Service (Amazon S3).

Para desplegar el modelo en modo local, sigue estos pasos:

1. Instala Amazon SageMaker Python SDK:

   pip install sagemaker

2. En la instancia de cuaderno de SageMaker AI, ejecuta los siguientes comandos para importar las bibliotecas necesarias:

   import boto3
   import sagemaker
   from sagemaker.local import LocalSession

3. Para crear un objeto de modelo, ejecuta el siguiente comando:

   model = Model(
       model_data='s3://your-bucket/path/to/model.tar.gz',
       image_uri='your-container-image-uri',
       role='your-sagemaker-role-arn',
       sagemaker_session=sagemaker_session
   )

   Nota: Susitutye s3://your-bucket/path/path/to/model.tar.gz por los artefactos del modelo y your-container-image-uri por la imagen de Amazon Elastic Container Registry (Amazon ECR) para tu marco. Además, sustituye your-sagemaker-role-arn por tu rol de AWS Identity and Access Management (IAM) y sagemaker_session por tu sesión actual.

4. Para desplegar localmente el modelo, ejecuta el siguiente comando:

   predictor = model.deploy(initial_instance_count=1,instance_type='local')

   Nota: Si vas a desplegar un modelo personalizado, incluye un script de punto de entrada. El script define la forma en que el modelo carga y gestiona las solicitudes de inferencia.

5. Tras el despliegue, ejecuta el siguiente comando para hacer inferencias:

   result = predictor.predict(your_input_data)
   print(result)

Nota: Para Amazon SageMaker Studio, debes activar el parámetro EnableDockerAccess en la DockerSettings del dominio. A continuación, instala Docker para el sistema operativo (SO) de la aplicación. Para ver los scripts de shell, consulta amazon-sagemaker-local-mode en el sitio web de GitHub. Para obtener más información, consulta Introducción al modo local.

Información relacionada

Modo local en el sitio web de Amazon SageMaker Python SDK