Wie verwende ich den lokalen Modus von SageMaker KI, um Modelle zu testen?

Lösung

Um das Modell zu testen, bevor du es auf einem Produktionsendpunkt bereitstellst, kannst du das Modell lokal auf einer SageMaker-KI-Notebook-Instance bereitstellen.

Bevor du beginnst, notiere dir die Modellartefakte. Modellartefakte sind die Trainingsjobausgaben, die du lokal oder in Amazon Simple Storage Service (Amazon S3) speicherst.

Gehe wie folgt vor, um das Modell im lokalen Modus bereitzustellen:

1. Installiere das Amazon SageMaker Python SDK:

   pip install sagemaker

2. Führe in der SageMaker-KI-Notebook-Instance die folgenden Befehle aus, um die erforderlichen Bibliotheken zu importieren:

   import boto3
   import sagemaker
   from sagemaker.local import LocalSession

3. Führe den folgenden Befehl aus, um ein Modellobjekt zu erstellen:

   model = Model(
       model_data='s3://your-bucket/path/to/model.tar.gz',
       image_uri='your-container-image-uri',
       role='your-sagemaker-role-arn',
       sagemaker_session=sagemaker_session
   )

   Hinweis: Ersetze s3://your-bucket/path/path/to/model.tar.gz durch die Modellartefakte und your-container-image-uri durch das Amazon Elastic Container Registry (Amazon ECR)-Image für das Framework. Ersetze außerdem your-sagemaker-role-arn durch die AWS Identity and Access Management (IAM)-Rolle und sagemaker_session durch die aktuelle Sitzung.

4. Führe den folgenden Befehl aus, um das Modell lokal bereitzustellen:

   predictor = model.deploy(initial_instance_count=1,instance_type='local')

   Hinweis: Wenn du ein benutzerdefiniertes Modell bereitstellst, füge ein Eintrittspunkt-Skript hinzu. Das Skript definiert, wie das Modell Inferenzanfragen lädt und verarbeitet.

5. Führe nach der Bereitstellung den folgenden Befehl aus, um Rückschlüsse zu ziehen:

   result = predictor.predict(your_input_data)
   print(result)

Hinweis: Für Amazon SageMaker Studio musst du den Parameter EnableDockerAccess in den DockerSettings der Domain aktivieren. Installiere dann Docker für das Betriebssystem (OS) der Anwendung. Shell-Skripte findest du unter amazon-sagemaker-local-mode auf der GitHub-Website. Weitere Informationen findest du unter Erste Schritte im lokalen Modus.

Ähnliche Informationen

Lokaler Modus auf der Amazon SageMaker Python SDK-Website