1개 답변
- 최신
- 최다 투표
- 가장 많은 댓글
0
【以下的回答经过翻译处理】 推荐使用 EMR ON EKS,EKS集群节点的扩展完全由EKS集群处理。EKS使用Kubernetes自动缩放器来缩放特定节点组的规模。EMR请求EKS上的Kubernetes调度器来调度Pod。对于您运行的每个作业,EMR在EKS上创建一个容器。该容器包含Amazon Linux 2基础映像与安全更新,以及Apache Spark和相关依赖项以运行Spark,还包括您特定应用程序的依赖项。每个作业都在Pod中运行。Pod下载此容器并开始执行它。作业终止后,Pod将终止。
就处理更大的工作量而言,EMR在EKS上支持Multi-AZ作业(这在EMR在EC2上不存在)。因此,Spark作业可以在跨越多个可用区的节点上启动执行器容器。
要在EKS集群上启用Kubernetes自动缩放器,请按照此文档中的说明操作。
관련 콘텐츠
- AWS 공식업데이트됨 2년 전
- AWS 공식업데이트됨 일 년 전
- AWS 공식업데이트됨 2년 전