1 回答
- 最新
- 投票最多
- 评论最多
0
【以下的回答经过翻译处理】 推荐使用 EMR ON EKS,EKS集群节点的扩展完全由EKS集群处理。EKS使用Kubernetes自动缩放器来缩放特定节点组的规模。EMR请求EKS上的Kubernetes调度器来调度Pod。对于您运行的每个作业,EMR在EKS上创建一个容器。该容器包含Amazon Linux 2基础映像与安全更新,以及Apache Spark和相关依赖项以运行Spark,还包括您特定应用程序的依赖项。每个作业都在Pod中运行。Pod下载此容器并开始执行它。作业终止后,Pod将终止。
就处理更大的工作量而言,EMR在EKS上支持Multi-AZ作业(这在EMR在EC2上不存在)。因此,Spark作业可以在跨越多个可用区的节点上启动执行器容器。
要在EKS集群上启用Kubernetes自动缩放器,请按照此文档中的说明操作。
相关内容
- AWS 官方已更新 2 年前
- AWS 官方已更新 8 个月前
- AWS 官方已更新 3 年前
- AWS 官方已更新 3 个月前