1 Risposta
- Più recenti
- Maggior numero di voti
- Maggior numero di commenti
0
If you're using a modest instance type to host multiple models, perhaps you might be struggling with CPU/memory resource contention as mentioned here in the docs? SageMaker recently launched configurable health-check time-outs, which may be interesting to you if your models or containers are particularly large / slow to set up (see the CreateEndpointConfig API)... But I'm not certain whether this configuration is supported for Multi-Container Endpoints at the moment.
Contenuto pertinente
- AWS UFFICIALEAggiornata 2 anni fa
- AWS UFFICIALEAggiornata 2 anni fa
- Perché il ripristino point-in-time della mia istanza di database di Amazon RDS richiede molto tempo?AWS UFFICIALEAggiornata 2 anni fa