1 réponse
- Le plus récent
- Le plus de votes
- La plupart des commentaires
0
To deploy a model on Inf1 and Inf2 instances, you need to compile the model using AWS Neuron. In this documentation page you will find the updated list of Supported models for AWS Inferentia2, AWS Inferentia, and also AWS Trainium.
If you want to deploy Stable Diffusion on AWS Inferentia2, please see this blogpost for a full walkthrough.
Hope this helps.
répondu il y a 9 mois
Contenus pertinents
- demandé il y a un an
- demandé il y a 8 mois
- demandé il y a 5 mois
- AWS OFFICIELA mis à jour il y a 3 ans
- AWS OFFICIELA mis à jour il y a 8 mois
- AWS OFFICIELA mis à jour il y a un an