跳至內容

如何在 Amazon Bedrock 上啟用對 Anthropic Claude 模型的存取?

2 分的閱讀內容
0

我想在 Amazon Bedrock 上啟用對 Anthropic Claude 模型的存取。

解決方法

請求存取 Amazon Bedrock 上的 Anthropic Claude 模型

**注意:**您必須使用 Amazon Bedrock 主控台來管理模型存取權。

支援的區域

若要在支援的 AWS 區域中存取 Amazon Bedrock 上的 Anthropic Claude 模型,請完成下列步驟:

  1. 開啟 Amazon Bedrock console (Amazon Bedrock 主控台)。
  2. 在導覽窗格中的 Bedrock configurations (Bedrock 組態) 下,選擇 Model access (模型存取權)。
  3. 選擇 Modify model access (修改模型存取權)。
  4. 選擇 Submit use case details (提交使用案例詳細資訊)。
  5. 填寫表單,然後選擇 Submit form (提交表單)。如果您的請求成功,則存取狀態將變更為已授予存取權可供請求

AWS GovCloud 區域

若要存取 AWS GovCloud 區域中 Amazon Bedrock 上的 Anthropic Claude 模型,請完成下列步驟:

  1. 尋找與您的 AWS GovCloud (美國) 帳戶 ID 關聯的標準 AWS 帳戶 ID
  2. 使用您的標準 AWS 帳戶 ID 啟用模型存取權
  3. 登入您的 AWS GovCloud (美國) 帳戶,並前往 Amazon Bedrock 所需的區域。然後,按照上一節中提供的模型存取註冊步驟,在支援的 AWS 區域中進行存取。這將授予您存取該區域模型的區域權利。

此模型可供連結的 AWS GovCloud (美國) 帳戶存取。

測試您對 Anthropic 的存取權

若要測試您是否可以存取 Anthropic Claude 模型,請使用 Amazon Bedrock 主控台上的文字聊天遊樂場功能。或者,您可以使用 AWS SDK for Python (Boto3) 對 Bedrock 執行時期進行 API 呼叫。

命令範例:

import boto3
import json
bedrock = boto3.client(service_name='bedrock-runtime')

body = json.dumps({
    "prompt": "\n\n
Human:explain black holes to 8th graders\n\n
Assistant:",
    "max_tokens_to_sample": 300,
    "temperature": 0.1,
    "top_p": 0.9,
})

modelId = 'anthropic.claude-3-sonnet-20240229-v1:0'
accept = 'application/json'
contentType = 'application/json'

response = bedrock.invoke_model(body=body, modelId=modelId, accept=accept, contentType=contentType)

response_body = json.loads(response.get('body').read())
# text
print(response_body.get('completion'))

若要測試 Amazon Bedrock 設定,請執行以下命令:

import boto3
bedrock = boto3.client(service_name='bedrock')
bedrock.get_foundation_model(modelIdentifier='anthropic.claude-3-sonnet-20240229-v1:0')

**注意:**若要對 Amazon Bedrock 模型進行 API 呼叫,請在 AWS Identity and Access Management (IAM) 角色或使用者實體中新增權限

您只能從受支援的國家、地區或領土存取 Anthropic 模型。當您嘗試從不支援的國家、地區或領土存取 Anthropic 模型時,您可能會收到以下錯誤:

「Claude 3.x Sonnet - Access to Anthropic models is not allowed from unsupported countries, regions, or territories.」

**注意:**您的 AWS 帳戶和帳單地址也必須位於 Anthropic 模型支援的國家、地區或領土內。如需詳細資訊,請參閱 Anthropic 網站上的Anthropic 模型支援的國家/地區

相關資訊

如何解決在存取 Amazon Bedrock 上的模型時,收到的「Unauthorized to perform action due to private marketplace eligibility」(由於私人市集資格而無權執行動作) 錯誤?