When will g5 instances be available for batch transform?

I see the new A10 GPU G5 instances are available for sagemaker training and notebook but not Batch transform, when will it be rolled out to this service?

Themen

Maschinelles Lernen & KI

Tags

Amazon SageMaker Maschinelles Lernen & KI

Sprache

English

rePost-User-0853106

gefragt vor einem Jahr688 Aufrufe

1 Antwort

Neueste
Die meisten Stimmen
Die meisten Kommentare

Sind diese Antworten hilfreich? Stimmen Sie der richtigen Antwort zu, damit die Community von Ihrem Wissen profitieren kann.

The G5 instances should be available soon for SageMaker transform as well. In the meantime, you could use SageMaker Training Jobs with custom container to do inference as well. Then you can retrieve the predictions results after unzipping the default output file model.tar.gz which is provided by the SM Training Job. Another alternative is to use the G4DN GPU instances with your SageMaker Batch Transform.

Ioan

beantwortet vor einem Jahr

rePost-User-0853106
vor einem Jahr
Thanks for the reply! Any estimate on how soon is soon?, G4s unfortunately won't work as we need bfloat16 compatibility
Elad
vor 9 Monaten
It has been 8 months. Last I checked, G5 is still not available for transform jobs. When is this planned to roll out?

Relevanter Inhalt

Wie behebe ich den Fehler „DockerTimeoutError“ in AWS Batch?
AWS OFFICIALAktualisiert vor 2 Jahren
Wie kann ich Probleme im Zusammenhang mit der Verbindung von Git-Repositorys mit Amazon SageMaker-Notebook-Instances beheben?
AWS OFFICIALAktualisiert vor einem Jahr
Wie behebe ich den Fehler „403 ERROR - The request could not be satisfied. Bad Request“ in CloudFront?
AWS OFFICIALAktualisiert vor einem Jahr
Wie behebe ich den Fehler „The new key policy will not allow you to update the key policy in the future“, wenn ich versuche, mit AWS CloudFormation einen AWS-KMS-Schlüssel zu erstellen?
AWS OFFICIALAktualisiert vor 2 Jahren