使用AWS re:Post即您表示您同意 AWS re:Post 使用条款

All Content tagged with 亚马逊 SageMaker 部署

Amazon SageMaker provides a broad selection of machine learning (ML) infrastructure and model deployment options to help meet your needs, whether real time or batch. Once you deploy a model, SageMaker creates persistent endpoints to integrate into your applications to make ML predictions (also known as inference). It supports the entire spectrum of inference, from low latency (a few milliseconds) and high throughput (hundreds of thousands of inference requests per second) to long-running inference for use cases such as natural language processing (NLP) and computer vision (CV). Whether you bring your own models and containers or use those provided by AWS, you can implement MLOps best practices using SageMaker to reduce the operational burden of managing ML models at scale.

内容语言: 中文 (简体)

Select up to 5 tags to filter
排序方式 最新
9 条结果
【以下的问题经过翻译处理】 我在这里找到了一个类似的帖子(https://repost.aws/questions/QUEVxelof3TmimoLt1Kd1SBA/how-to-configure-our-own-inference-py-for-two-different-py-torch-models-in-multi-data-model-to-build-single-endpoint-...
1
回答
0
点赞数
61
检视次数
profile picture
专家
已提问 1 年前
【以下的问题经过翻译处理】 我想训练和部署多个Comprehend定制分类器(比如50个模型)。我希望能够7*24小时以接近实时(几秒钟即可)的速度来分类我的文档。 问题在于,为每个分类器部署一个端点非常昂贵,1-2个IU(推理单元)就足以承载我所有的模型(我预计每分钟要处理大约10个文档,每个文档总长度约为1000个字符)。是否有一种方法可以将多个模型部署在同一个端点后面(类似于SageMake...
1
回答
0
点赞数
64
检视次数
profile picture
专家
已提问 1 年前
【以下的问题经过翻译处理】 我们使用Sagemaker Jumpstart部署了一个LighGBM回归模型和端点。 我们尝试通过控制台将此端点配置为“异步”。 收到错误消息:ValidationException-Network Isolation is not supported when specifying an AsyncInferenceConfig。 查看模型的网络详细信息后,发现...
1
回答
0
点赞数
87
检视次数
profile picture
专家
已提问 1 年前
【以下的问题经过翻译处理】 我已经为异步推理配置了一个模型,它正常工作-我可以通过`invoke_endpoint_async`提交一个文件并从s3下载输出。 我正在尝试配置自动扩展。我尝试不同选项的实验,但基本上我想配置0-1个实例,在调用`invoke_endpoint_async`时创建一个实例,然后很快关闭该实例(类似于批量推理) 我很难让它正常工作-我遇到了与<https://git...
1
回答
0
点赞数
48
检视次数
profile picture
专家
已提问 1 年前
【以下的问题经过翻译处理】 我试图从S3下载图像(.jpg、.png)到由Sagemaker创建的终端endpoint,使用s3url(s3://~~)。 因为在由Sagemaker创建的endpoint上,发送s3url比发送图像更快。 我可以在Sagemaker notebook上从S3下载图像到本地。 但是我无法从S3下载图像到Sagemaker endpoint。 那个本地下载代码...
1
回答
0
点赞数
86
检视次数
profile picture
专家
已提问 1 年前
【以下的问题经过翻译处理】 我试图使用sagemaker Python包的huggingface功能创建一个端点。 从sagemaker.huggingface导入HuggingFaceModel导入sagemaker role= sagemaker.get_execution_role() Hub Model configuration. https://huggingface.co/mo...
1
回答
0
点赞数
108
检视次数
profile picture
专家
已提问 1 年前
【以下的问题经过翻译处理】 我在Django中开发了一个REST API,并现在需要在AWS中部署它。应该使用哪个AWS服务?架构将会是什么?是否有架构?
1
回答
0
点赞数
71
检视次数
profile picture
专家
已提问 1 年前
【以下的问题经过翻译处理】 几周前,我使用以下终端节点配置创建了一个Sagemaker终端节点: ``` {'EndpointConfigName': 'xxxx', 'ProductionVariants': [{'VariantName': 'staging-endpoint', 'ModelName': 'xxxxx', 'ServerlessConfig': {'Memor...
1
回答
0
点赞数
43
检视次数
profile picture
专家
已提问 1 年前
【以下的问题经过翻译处理】 我可以使用 SM 模型注册表轻松创建和版本化模型:<https://docs.aws.amazon.com/sagemaker/latest/dg/model-registry-version.html> 注册模型后,也可以访问元数据:<https://docs.aws.amazon.com/sagemaker/latest/dg/model-registry-de...
1
回答
0
点赞数
31
检视次数
profile picture
专家
已提问 1 年前
  • 1
  • 12 条/页