Comment puis-je résoudre l'« erreur 503 Service Unavailable » lorsque j'utilise des ressources à la demande Amazon Bedrock ?

Résolution

Remarque : si des erreurs surviennent lorsque vous exécutez des commandes de l’interface de la ligne de commande AWS (AWS CLI), consultez la page Résoudre les erreurs liées à AWS CLI. Vérifiez également que vous utilisez bien la version la plus récente de l’AWS CLI.

Amazon Bedrock renvoie un code d’erreur 503 Service Unavailable pour certaines exceptions côté serveur.

Une exception côté serveur se produit lorsque le serveur n'est pas en mesure de répondre en raison d’échecs ou en cas d'augmentation du nombre de requêtes. Cette augmentation exerce une pression sur les ressources partagées. Pour déterminer la cause de cette erreur, effectuez les actions suivantes :

Réessayer la requête

Pour vérifier si l'erreur est due à une augmentation temporaire de la demande d'API, l'augmentation de la demande doit être résolue. Utiliser le backoff exponentiel pour réessayer la requête. Si vous utilisez des kits SDK AWS, consultez la section Comportement de nouvelle tentative.

Utiliser une autre région

Pour vérifier si la demande augmente ou si des échecs se produisent dans une région AWS, modifiez les paramètres de vos ressources afin qu'elles utilisent une autre région AWS. Lorsque vous passez à une autre région, activez l'accès au modèle pour Amazon Bedrock dans cette région. Si vous utilisez des kits SDK AWS, consultez la section Compatibilité avec les kits SDK AWS.

Pour acheminer automatiquement le trafic entre plusieurs régions, activez l'inférence interrégionale.

Utiliser d'autres modèles de fondation

Si la demande augmente ou si des échecs surviennent sur un modèle de fondation spécifique, les autres modèles de fondation peuvent fonctionner sans problème.

Remarque :

• Les paramètres requis sont différents pour chaque modèle de fondation. Pour plus d'informations, consultez la section Paramètres d'inférence pour les modèles de fondation.
• L'API Converse fournit une API cohérente, qui fonctionne avec tous les modèles Amazon Bedrock qui prennent en charge les messages. Vous pouvez écrire du code une seule fois et l'utiliser avec différents modèles.

Utiliser le débit provisionné

Achetez un débit provisionné pour fournir un niveau de débit plus élevé. Pour plus d'informations, consultez la section Accéder aux modèles de fondation Amazon Bedrock. Pour la console de gestion AWS, consultez la section Utiliser un débit provisionné. Pour l’AWS CLI ou le kit SDK Python, consultez la section Exemples de code pour le débit provisionné dans Amazon Bedrock. Disponible pour les régions et les modèles pris en charge pour le débit provisionné.