1 réponse
- Le plus récent
- Le plus de votes
- La plupart des commentaires
0
You can use Neuron Monitor to monitor your Inf utilization. Neuron Monitor integrates with CloudWatch (see this documentation). One metric you can use to determine scaling is NeuronCore utilization. For example, you can average the number of NeuronCores with utilization that's higher than some threshold and scale up or down based on that.
répondu il y a 5 mois
Contenus pertinents
- demandé il y a un an
- demandé il y a 2 mois
- Réponse acceptéedemandé il y a un an
- demandé il y a 7 mois
- AWS OFFICIELA mis à jour il y a 4 mois
- AWS OFFICIELA mis à jour il y a 4 mois
- AWS OFFICIELA mis à jour il y a un an
- Comment configurer un proxy HTTP pour Docker et l'agent de conteneur Amazon ECS for Amazon Linux 2 ?AWS OFFICIELA mis à jour il y a 4 ans