Sagemaker 异步端点配置

0

【以下的问题经过翻译处理】 我们使用Sagemaker Jumpstart部署了一个LighGBM回归模型和端点。 我们尝试通过控制台将此端点配置为“异步”。 收到错误消息:ValidationException-Network Isolation is not supported when specifying an AsyncInferenceConfig。

查看模型的网络详细信息后,发现模型的“网络隔离”设置为“True”。 这是JumpStart默认的输出设置。

如何禁用网络隔离以使此端点变成异步?

1 回答
0

【以下的回答经过翻译处理】 原生的SageMaker "模型"(不同于有版本的ModelPackages)在API中是不可变的,没有"UpdateModel"的操作...但我认为你应该能够创建一个新的模型,复制当前模型的设置。

我建议你:

  1. 使用DescribeModel(通过Python中的boto3.client("sagemaker").describe_model())获取现有JumpStart模型的所有参数,如S3工件位置和其他设置。
  2. 使用CreateModelcreate_model())创建一个具有相同配置但网络隔离已禁用的新模型。
  3. 使用你的新模型尝试部署异步端点。

可能你会发现,与高级sagemaker SDK的Model class相比,低级别的boto3 SDK更符合直觉,因为前者会进行一些让典型的构建/训练/部署工作流更容易的魔法操作,但对于处理现有模型定义来说可能不太直观。例如,创建一个SMSDKModel对象实际上并没有在SageMaker API中创建一个模型,因为部署实例类型会影响容器映像的选择,因此会推迟到稍后的.deploy()调用或类似操作。

profile picture
专家
已回答 6 个月前

您未登录。 登录 发布回答。

一个好的回答可以清楚地解答问题和提供建设性反馈,并能促进提问者的职业发展。

回答问题的准则