Come posso utilizzare la modalità locale di SageMaker AI per testare modelli?

Risoluzione

Per testare un modello prima di distribuirlo su un endpoint di produzione, puoi distribuire il modello localmente su un'istanza del notebook SageMaker AI.

Prima di iniziare, annota gli artefatti del modello. Gli artefatti del modello sono i risultati del job di addestramento che memorizzi localmente o in Amazon Simple Storage Service (Amazon S3).

Per distribuire il modello in modalità locale, completa i seguenti passaggi:

1. Installa Amazon SageMaker Python SDK:

   pip install sagemaker

2. Nell'istanza del notebook SageMaker AI, esegui questi comandi per importare le librerie necessarie:

   import boto3
   import sagemaker
   from sagemaker.local import LocalSession

3. Per creare un oggetto modello, esegui questo comando:

   model = Model(
       model_data='s3://your-bucket/path/to/model.tar.gz',
       image_uri='your-container-image-uri',
       role='your-sagemaker-role-arn',
       sagemaker_session=sagemaker_session
   )

   Nota: sostituisci s3://your-bucket/path/path/to/model.tar.gz con gli artefatti del tuo modello e your-container-image-uri con l'immagine Amazon Elastic Container Registry (Amazon ECR) per il tuo framework. Inoltre, sostituisci your-sagemaker-role-arn con il tuo ruolo AWS Identity and Access Management (AWS IAM) e sagemaker_session con la tua sessione corrente.

4. Per distribuire localmente il modello, esegui questo comando:

   predictor = model.deploy(initial_instance_count=1,instance_type='local')

   Nota: se stai distribuendo un modello personalizzato, includi uno script di punto di ingresso. Lo script definisce il modo in cui il modello carica e gestisce le richieste di inferenza.

5. Dopo la distribuzione, esegui questo comando per fare inferenze:

   result = predictor.predict(your_input_data)
   print(result)

Nota: per Amazon SageMaker Studio, devi attivare il parametro EnableDockerAccess nelle impostazioni DockerSettings del dominio. Quindi installa Docker per il sistema operativo dell'applicazione. Per gli script di shell, consultaamazon-sagemaker-local-mode sul sito web di GitHub. Per ulteriori informazioni, consulta Guida introduttiva alla modalità locale.

Informazioni correlate

Local mode (Modalità locale) sul sito web di Amazon SageMaker Python SDK