1개 답변
- 최신
- 최다 투표
- 가장 많은 댓글
0
【以下的回答经过翻译处理】 目前,所有 CPU 实例类型和单 GPU 实例类型都支持多模型终端节点。,请参见此处:https://docs.aws.amazon.com/sagemaker/latest/dg/multi-model-endpoints.html#multi-model-endpoint-instance
为了托管多模型端点,请选择支持的实例类型。ECR映像将包含所需的'com.amazonaws.sagemaker.capabilities.multi-models=true'标签,请参见此处:https://github.com/aws/deep-learning-containers/blob/master/pytorch/inference/docker/1.8/py3/Dockerfile.cpu
관련 콘텐츠
- 질문됨 한 달 전
- 질문됨 7년 전
- AWS 공식업데이트됨 8달 전