我想對在使用 Amazon Bedrock 隨需資源時,收到的「503 Service Unavailable」(503 服務無法使用) 錯誤進行疑難排解。我沒有超出 AWS 帳戶配額。
解決方法
**注意:**如果您在執行 AWS Command Line Interface (AWS CLI) 命令時收到錯誤訊息,請參閱對 AWS CLI 錯誤進行疑難排解。此外,請確定您使用的是最新的 AWS CLI 版本。
當伺服器因故障而無法回應時,您會收到 503 Service Unavailable (503 服務無法使用) 錯誤訊息,表示伺服器端發生例外狀況。或者,當請求激增導致共用資源負荷過重時,也會發生此錯誤。若要確定錯誤的原因,請執行下列動作。
檢查服務狀態
如果您無法存取 Amazon Bedrock,請檢查服務可用性。檢查 AWS Health 儀表板上的服務運作狀態,以檢查您的 AWS 區域中是否有與 Amazon Bedrock 相關的持續問題。
重試請求
若要檢查錯誤是否由 API 需求暫時增加導致,請使用指數退避重試請求。這種方法可減少伺服器的負載,並提高請求成功的可能性。
AWS SDK 通常具有內建重試邏輯。根據您的需求設定 AWS SDK 的重試行為。
使用其他區域
若要檢查需求增加或故障是否僅限於某個區域,請將您的資源更新為使用其他區域。當您變更為其他區域時,請授予該區域中 Amazon Bedrock 的模型存取權。
如果您使用 AWS SDK,請檢查 AWS SDK 的區域相容性。若要將您的 AWS SDK 更新為使用其他區域,請執行以下 set AWS CLI 命令:
aws configure set region new-region-name
**注意:**將 new-region-name 替換為新的區域。
使用跨區域推論,自動使用來自多個區域的容量
使用跨區域推論,無縫管理突發的爆量流量。跨區域推論會動態地將請求路由到具有容量的區域。這可讓您的工作負載根據需求擴展。
使用其他基礎模型
如果需求增加或特定基礎模型故障,請使用其他基礎模型。
**注意:**每個基礎模型的必要參數都不同。Converse API 可與所有支援訊息的 Amazon Bedrock 模型搭配使用,並且只需編寫一次程式碼即可將其用於不同的模型。
使用佈建輸送量
**先決條件:**確認您位於支援佈建輸送量的區域。
分析應用程式的使用模式和尖峰需求。如果您需要提供更高的輸送量,請使用佈建輸送量。若要使用 AWS CLI 或 AWS SDK for Python (Boto3) 來使用佈建輸送量,請參閱佈建輸送量的程式碼範例。