Bedrock関連のクォーターがデフォルトより低くく調整不可能と表示される

0

Bedrock呼び出しに関する以下のクォーターがデフォルト値より低くかつ調整可能ではないと表示される。 また、引き上げのリクエストのボタンがグレーアウトされています。 極端に呼び出し数が少ないので上限をあげる方法を知りたい。

サービスクォーターの画面キャプチャ

質問済み 12日前36ビュー
1回答
0
承認された回答

AWS Bedrockのモデル特有のクォータ(特にAnthropicのClaudeモデル)を増やすには、通常のサービスクォータダッシュボードを通じた標準的な引き上げリクエストプロセスとは異なる方法を取る必要があります。

これらのクォータは、コンソールから直接調整できないようになっています。代わりに、以下の方法を試すことができます:

  1. AWS サポートセンターを通じて、または制限引き上げフォームを使用してリクエストを提出します。その際、以下の情報を必ず含めてください:

    • 引き上げたいクォータの名前(例:On-demand InvokeModel requests per minute)
    • 特定のモデルID(例:Anthropic Claude 3.5 Sonnet V2)
    • クォータ引き上げが必要なAWSリージョン
  2. リクエストの中で、あなたのユースケースと高いクォータが必要な理由を明確に説明してください。これによりAWSがあなたのニーズをよりよく理解し、承認プロセスを迅速化できる可能性があります。

  3. TAM(テクニカルアカウントマネージャー)、SA(ソリューションアーキテクト)、またはAM(アカウントマネージャー)がいる場合は、彼らと協力して内部的なクォータ引き上げリクエストを行うことも効果的です。Bedrockモデルのクォータには、内部的に異なる承認プロセスがあります。

ただし、クォータ引き上げのリクエストを提出しても、承認が保証されるわけではなく、処理に時間がかかる場合があることに注意してください。AWSはリソースの適切な割り当てを確保するために、これらのリクエストを慎重に検討します。

クォータ引き上げを待つ間の即時的な解決策として、マルチアカウント戦略の使用を検討することもできますが、長期的な使用には適していません。また、高スループットが必要な場合は、Provisioned Throughputの購入を検討することもできますが、これには相当なコストがかかる可能性があります。
Sources
How to increase AWS Bedrock quota for the specific model? | AWS re:Post
Anthropic Claude Usage Tiers Using Bedrock | AWS re:Post
AWS Bedrock Anthropic Claude Opus quota | AWS re:Post

profile picture
回答済み 12日前

ログインしていません。 ログイン 回答を投稿する。

優れた回答とは、質問に明確に答え、建設的なフィードバックを提供し、質問者の専門分野におけるスキルの向上を促すものです。

質問に答えるためのガイドライン

関連するコンテンツ