如何将SageMaker Batch Transform 中的MaxConcurrentTransforms配置为理想值？
0
【以下的问题经过翻译处理】 根据文档https://docs.aws.amazon.com/sagemaker/latest/dg/batch-transform.html，"MaxConcurrentTransforms的理想值等于batch transform job 中的计算节点数量。"如何确定计算节点数量，我认为这取决于实例类型。此外，我们是否需要考虑设置实例数量的参数？
1개 답변
- 최신
- 최다 투표
- 가장 많은 댓글
0
【以下的回答经过翻译处理】 MaxConcurrentTransforms的理想值取决于实例类型和你的特定模型。
对于基于CPU的 transforms，将MaxConcurrentTransforms 设置为你正在使用的实例的CPU数量是有意义的，但你也应该考虑你的模型的内存利用率。
我建议你逐渐增加这个数字，从1增加到实例核心数量，同时监测RAM /CPU利用率，以找到最佳值。
관련 콘텐츠
AWS 공식업데이트됨 2년 전- AWS 공식업데이트됨 2년 전
- AWS 공식업데이트됨 7달 전
- AWS 공식업데이트됨 2년 전
