如何将SageMaker Batch Transform 中的MaxConcurrentTransforms配置为理想值?

0

【以下的问题经过翻译处理】 根据文档https://docs.aws.amazon.com/sagemaker/latest/dg/batch-transform.html,"MaxConcurrentTransforms的理想值等于batch transform job 中的计算节点数量。"如何确定计算节点数量,我认为这取决于实例类型。此外,我们是否需要考虑设置实例数量的参数?

profile picture
專家
已提問 8 個月前檢視次數 62 次
1 個回答
0

【以下的回答经过翻译处理】 MaxConcurrentTransforms的理想值取决于实例类型和你的特定模型。

对于基于CPU的 transforms,将MaxConcurrentTransforms 设置为你正在使用的实例的CPU数量是有意义的,但你也应该考虑你的模型的内存利用率。

我建议你逐渐增加这个数字,从1增加到实例核心数量,同时监测RAM /CPU利用率,以找到最佳值。

profile picture
專家
已回答 8 個月前

您尚未登入。 登入 去張貼答案。

一個好的回答可以清楚地回答問題並提供建設性的意見回饋,同時有助於提問者的專業成長。

回答問題指南