如何使用 SageMaker AI 本機模式測試模型？

解決方法

若要在將模型部署至生產端點之前其進行測試，您可以在 SageMaker AI 筆記本執行個體上本機部署該模型。

在開始之前，請記下您的模型成品。模型成品是您儲存在本機或 Amazon Simple Storage Service (Amazon S3) 中的訓練任務輸出。

若要以本機模式部署模型，請完成下列步驟：

1. 安裝 Amazon SageMaker Python SDK：

   pip install sagemaker

2. 在 SageMaker AI 筆記本執行個體中，執行下列命令以匯入必要的程式庫：

   import boto3
   import sagemaker
   from sagemaker.local import LocalSession

3. 若要建立模型物件，請執行下列命令：

   model = Model(
       model_data='s3://your-bucket/path/to/model.tar.gz',
       image_uri='your-container-image-uri',
       role='your-sagemaker-role-arn',
       sagemaker_session=sagemaker_session
   )

   **注意：**將 s3://your-bucket/path/path/to/model.tar.gz 替換為您的模型成品，並將 your-container-image-uri 替換為您架構的 Amazon Elastic Container Registry (Amazon ECR) 映像檔。另外，將 your-sagemaker-role-arn 替換為您的 AWS Identity and Access Management (IAM) 角色，將 sagemaker_session 替換為您目前的工作階段。

4. 若要在本機部署模型，請執行下列命令：

   predictor = model.deploy(initial_instance_count=1,instance_type='local')

   **注意：**如果您要部署自訂模型，請加入進入點指令碼。該指令碼定義了模型如何載入和處理推論請求。

5. 部署後，執行下列命令進行推論：

   result = predictor.predict(your_input_data)
   print(result)

**注意：**如果是 Amazon SageMaker Studio，您必須在網域的 DockerSettings 中啟動 EnableDockerAccess 參數。然後，為應用程序的作業系統 (OS) 安裝 Docker。如果是 Shell 指令碼，請參閱 GitHub 網站上的 amazon-sagemaker-local-mode。如需詳細資訊，請參閱開始使用本機模式。

相關資訊

Amazon SageMaker Python SDK 網站上的本機模式