EMR Serverless Application Disk Space?

0

When configuring an EMR Serverless application, you can choose the disk size for your preinitialized capacity and a maximum disk limit for the application:

Disk size

However, at least for Hive jobs, EMR Serverless stores both the scratch and warehouse directories on S3. So what is this configured disk space used for? I've searched the documentation and there's no mention of how this space is used, or why it's needed.

Patrick
gefragt vor 2 Jahren1107 Aufrufe
1 Antwort
1
Akzeptierte Antwort

EMR Serverless uses disk size for the following purposes.

  1. Storing the log files ( Hive, Tez AM logs, Tez Task logs etc)
  2. Shuffle data is stored on the local disk.
  3. Resources such as aux libraries, user jar etc.

Hope it answers your question.

AWS
beantwortet vor einem Jahr
AWS
SUPPORT-TECHNIKER
überprüft vor 23 Tagen
  • This does answer the question, thanks. But we needed this answer 3 months ago. We've since moved our company's infrastructure to a new cloud provider.

Du bist nicht angemeldet. Anmelden um eine Antwort zu veröffentlichen.

Eine gute Antwort beantwortet die Frage klar, gibt konstruktives Feedback und fördert die berufliche Weiterentwicklung des Fragenstellers.

Richtlinien für die Beantwortung von Fragen