如何对 Amazon Bedrock 中的“503 Service Unavailable”错误进行故障排除？

解决方案

**注意：**如果您在运行 AWS 命令行界面 (AWS CLI) 命令时收到错误，请参阅 AWS CLI 错误故障排除。此外，请确保您使用的是最新版本的 AWS CLI。

如果服务器由于故障而无法响应，则会收到服务器端异常的 503 Service Unavailable 错误消息。或者，当请求激增导致共享资源紧张时，也会出现该错误。要确定该错误的原因，请执行以下操作。

检查服务状态

如果您无法访问 Amazon Bedrock，请检查服务的可用性。查看 AWS Health Dashboard 上的服务运行状况以检查您的 AWS 区域中的 Amazon Bedrock 是否存在持续问题。

重试请求

要检查错误是否因 API 需求暂时增加所致，请使用指数回退重试请求。此方法可以减轻服务器负载，并提高请求成功的可能性。

AWS SDK 通常具有内置的重试逻辑。根据您的要求配置 AWS SDK 的重试行为。

使用其他区域

要检查增加的需求或失败是否特定于一个区域，请更新您的资源以使用另一个区域。当您切换到其他区域时，请在该区域授予 Amazon Bedrock 的模型访问权限。

如果您使用 AWS SDK，请检查您的 AWS SDK 的区域兼容性。要更新您的 AWS SDK 以使用其他区域，请运行以下 set AWS CLI 命令：

aws configure set region new-region-name

**注意：**将 new-region-name 替换为新区域。

使用跨区域推理自动使用来自多个区域的容量

使用跨区域推理无缝管理计划外流量突增。跨区域推理会将请求动态路由到有容量的区域。这使您的工作负载可以随需求扩展。

使用其他基础模型

如果需求增加或特定的基础模型出现故障，请使用其他基础模型。

**注意：**每个基础模型所需的参数都不同。Converse API 适用于所有支持消息的 Amazon Bedrock 模型，允许您编写一次代码，然后将其用于不同的模型。

使用预置吞吐量

**先决条件：**确保您位于支持预置吞吐量的区域。

分析应用程序的使用模式和峰值需求。如果您需要提供更高的吞吐量，请使用预置吞吐量。要使用 AWS CLI 或适用于 Python 的 AWS SDK (Boto3) 来使用预置吞吐量，请参阅预置吞吐量的代码示例。