Wie behebe ich den Fehler „503 Service Unavailable“ in Amazon Bedrock?

Behebung

Hinweis: Wenn du beim Ausführen von AWS Command Line Interface (AWS CLI)-Befehlen Fehlermeldungen erhältst, findest du weitere Informationen dazu unter Problembehandlung bei der AWS CLI. Stelle außerdem sicher, dass du die neueste Version der AWS CLI verwendest.

Du erhältst die Fehlermeldung 503 Service Unavailable für serverseitige Ausnahmen, die auftreten, wenn der Server aufgrund von Fehlern nicht antworten kann. Oder der Fehler tritt auf, wenn ein Anstieg der Anfragen die gemeinsam genutzten Ressourcen belastet. Gehe wie folgt vor, um die Ursache des Fehlers zu ermitteln.

Den Servicestatus überprüfen

Wenn du nicht auf Amazon Bedrock zugreifen kannst, überprüfe die Verfügbarkeit des Dienstes. Prüfe den Servicestatus im AWS-Servicestatus-Dashboard, um zu überprüfen, ob es in deiner AWS-Region weiterhin Probleme mit Amazon Bedrock gibt.

Führe die Anfrage erneut aus

Um zu überprüfen, ob der Fehler auf einen vorübergehenden Anstieg der API-Nachfrage zurückzuführen ist, verwende exponentielles Backoff, um die Anfrage zu wiederholen. Diese Methode reduziert die Belastung des Servers und erhöht die Wahrscheinlichkeit einer erfolgreichen Anfrage.

AWS-SDKs verfügen häufig über eine integrierte Wiederholungslogik. Konfiguriere das Wiederholungsverhalten für dein AWS-SDK gemäß deinen Anforderungen.

Eine andere Region verwenden

Um zu überprüfen, ob die erhöhte Nachfrage oder die Ausfälle spezifisch für eine Region sind, aktualisiere deine Ressourcen, um eine andere Region zu verwenden. Wenn du in eine andere Region wechselst, gewähre Amazon Bedrock Modellzugriff in dieser Region.

Wenn du AWS-SDKs verwendest, überprüfe die Regionskompatibilität deines AWS-SDK. Um dein AWS-SDK für die Verwendung einer anderen Region zu aktualisieren, führe den folgenden AWS-CLI-Befehl set aus:

aws configure set region new-region-name

Hinweis: Ersetze new-region-name durch die neue Region.

Verwende regionsübergreifende Inferenz, um automatisch Kapazitäten aus mehreren Regionen zu nutzen

Verwende regionsübergreifende Inferenz, um ungeplante Traffic-Bursts nahtlos zu verwalten. Regionsübergreifende Inferenz leitet Anfragen dynamisch an Regionen weiter, die über Kapazitäten verfügen. Dadurch können deine Workloads mit der Nachfrage skaliert werden.

Andere Fundamentmodelle verwenden

Wenn bei einem bestimmten Fundamentmodell der Bedarf steigt oder Ausfälle auftreten, verwende ein anderes Fundamentmodell.

Hinweis: Die erforderlichen Parameter sind für jedes Fundamentmodell unterschiedlich. Die Converse-API funktioniert mit allen Amazon Bedrock-Modellen, die Nachrichten unterstützen, und ermöglicht es dir, Code einmal zu schreiben und ihn mit verschiedenen Modellen zu verwenden.

Bereitgestellten Durchsatz verwenden

Voraussetzungen: Stelle sicher, dass du dich in einer Region befindest, die für den bereitgestellten Durchsatz unterstützt wird.

Analysiere die Nutzungsmuster und Spitzenanforderungen deiner Anwendung. Wenn du einen höheren Durchsatz bereitstellen musst, verwende den bereitgestellten Durchsatz. Informationen zur Verwendung der AWS-CLI oder des AWS-SDK für Python (Boto3) zur Verwendung des bereitgestellten Durchsatzes findest du unter Codebeispiele für bereitgestellten Durchsatz.