Comment utiliser le mode local de SageMaker AI pour tester des modèles ?

Résolution

Pour tester votre modèle avant de le déployer sur un point de terminaison de production, vous pouvez le déployer localement sur une instance de notebook SageMaker AI.

Avant de commencer, notez vos artefacts de modèle. Les artefacts de modèle sont les résultats de vos tâches d’entraînement que vous stockez localement ou dans Amazon Simple Storage Service (Amazon S3).

Pour déployer votre modèle en mode local, procédez comme suit :

1. Installez le SDK Amazon SageMaker Python :

   pip install sagemaker

2. Dans votre instance de notebook SageMaker AI, exécutez les commandes suivantes pour importer les bibliothèques nécessaires :

   import boto3
   import sagemaker
   from sagemaker.local import LocalSession

3. Pour créer un objet de modèle, exécutez la commande suivante :

   model = Model(
       model_data='s3://your-bucket/path/to/model.tar.gz',
       image_uri='your-container-image-uri',
       role='your-sagemaker-role-arn',
       sagemaker_session=sagemaker_session
   )

   Remarque : Remplacez s3://your-bucket/path/path/to/model.tar.gz par vos artefacts de modèle et your-container-image-uri par l'image Amazon Elastic Container Registry (Amazon ECR) pour votre cadre. Remplacez également your-sagemaker-role-arn par votre rôle AWS Identity and Access Management (IAM) et sagemaker_session par votre session actuelle.

4. Pour déployer le modèle localement, exécutez la commande suivante :

   predictor = model.deploy(initial_instance_count=1,instance_type='local')

   Remarque : Si vous déployez un modèle personnalisé, incluez un script de point d'entrée. Le script définit la manière dont votre modèle charge et gère les demandes d'inférence.

5. Après le déploiement, exécutez la commande suivante pour faire des inférences :

   result = predictor.predict(your_input_data)
   print(result)

Remarque : Pour Amazon SageMaker Studio, vous devez activer le paramètre EnableDockerAccess dans les DockerSettings du domaine. Puis, installez Docker pour le système d'exploitation (OS) de l'application. Pour les scripts shell, consultez la page amazon-sagemaker-local-mode sur le site Web de GitHub. Pour en savoir plus, consultez la section Démarrer avec le mode local.

Informations connexes

Mode local sur le site Web d’Amazon SageMaker Python SDK