EMR on EKS 部署模型如何支持 EMR 自动扩展/托管扩展?

0

【以下的问题经过翻译处理】 EMR 5.30发布了托管扩展功能,该功能根据Spark/Hive等负载自动扩展集群。当在EKS上部署EMR时,托管扩展是如何工作的?或者,当EMR虚拟集群(运行在EKS集群上)需要更多计算/工作资源以处理更大负载时,如何支持相同的功能/能力在同一SLA内?

profile picture
专家
已提问 3 个月前12 查看次数
1 回答
0

【以下的回答经过翻译处理】 推荐使用 EMR ON EKS,EKS集群节点的扩展完全由EKS集群处理。EKS使用Kubernetes自动缩放器来缩放特定节点组的规模。EMR请求EKS上的Kubernetes调度器来调度Pod。对于您运行的每个作业,EMR在EKS上创建一个容器。该容器包含Amazon Linux 2基础映像与安全更新,以及Apache Spark和相关依赖项以运行Spark,还包括您特定应用程序的依赖项。每个作业都在Pod中运行。Pod下载此容器并开始执行它。作业终止后,Pod将终止。

就处理更大的工作量而言,EMR在EKS上支持Multi-AZ作业(这在EMR在EC2上不存在)。因此,Spark作业可以在跨越多个可用区的节点上启动执行器容器。

要在EKS集群上启用Kubernetes自动缩放器,请按照此文档中的说明操作。

profile picture
专家
已回答 3 个月前

您未登录。 登录 发布回答。

一个好的回答可以清楚地解答问题和提供建设性反馈,并能促进提问者的职业发展。

回答问题的准则