Como faço para ativar o acesso aos modelos do Anthropic Claude no Amazon Bedrock?

Resolução

Solicitar acesso aos modelos do Anthropic Claude no Amazon Bedrock

Observação: você deve usar o console do Amazon Bedrock para gerenciar o acesso ao modelo.

Regiões aceitas

Para acessar os modelos do Anthropic Claude no Amazon Bedrock, nas regiões aceitas da AWS, conclua as seguintes etapas:

1. Abra o console do Amazon Bedrock.
2. No painel de navegação, em Configurações do Bedrock, escolha Acesso ao modelo.
3. Escolha Modificar acesso ao modelo.
4. Escolha Enviar detalhes do caso de uso.
5. Preencha o formulário e escolha Enviar formulário. Se sua solicitação der certo, o Status do acesso será alterado para Acesso concedido ou Disponível para solicitação.

Regiões da AWS GovCloud

Para acessar os modelos do Anthropic Claude no Amazon Bedrock nas regiões da AWS GovCloud, conclua as seguintes etapas:

1. Encontre o ID da sua conta padrão da AWS associado ao ID da sua conta da AWS GovCloud (EUA).
2. Use o ID da sua conta padrão da AWS para ativar o acesso ao modelo.
3. Faça login na sua conta da AWS GovCloud (EUA) e navegue até a região necessária do Amazon Bedrock. Em seguida, siga as etapas de cadastro do modelo de acesso fornecidas na seção anterior para acessar as regiões aceitas da AWS. Isso concede a você o direito regional de acessar os modelos nessa região.

O modelo pode ser acessado pela conta vinculada da AWS GovCloud (EUA).

Testar o acesso ao Anthropic

Para testar se é possível acessar os modelos do Anthropic Claude, use o atributo playgrounds de Texto ou Chat no console do Amazon Bedrock. Ou é possível usar o AWS SDK para Python (Boto3) para fazer uma chamada de API para o runtime do Bedrock.

Exemplo de comando:

import boto3
import json
bedrock = boto3.client(service_name='bedrock-runtime')

body = json.dumps({
    "prompt": "\n\n
Human:explain black holes to 8th graders\n\n
Assistant:",
    "max_tokens_to_sample": 300,
    "temperature": 0.1,
    "top_p": 0.9,
})

modelId = 'anthropic.claude-3-sonnet-20240229-v1:0'
accept = 'application/json'
contentType = 'application/json'

response = bedrock.invoke_model(body=body, modelId=modelId, accept=accept, contentType=contentType)

response_body = json.loads(response.get('body').read())
# text
print(response_body.get('completion'))

Para testar a configuração do Amazon Bedrock, execute o seguinte comando:

import boto3
bedrock = boto3.client(service_name='bedrock')
bedrock.get_foundation_model(modelIdentifier='anthropic.claude-3-sonnet-20240229-v1:0')

Observação: para fazer chamadas de API para modelos do Amazon Bedrock, adicione permissões ao perfil ou entidade de usuário do AWS Identity and Access Management (AWS IAM).

Só é possível acessar modelos do Anthropic de países, regiões ou territórios compatíveis. Ao tentar acessar modelos do Anthropic de países, regiões ou territórios não aceitos, você pode receber o seguinte erro:

“Claude 3.x Sonnet - Access to Anthropic models is not allowed from unsupported countries, regions, or territories.”

Observação: sua conta da AWS e seu endereço de cobrança também devem estar em um país, região ou território aceitos por modelos do Anthropic. Para mais informações, consulte Supported Countries for Anthropic Models (Países aceitos por modelos do Anthropic) no site do Anthropic.

Informações relacionadas

Como resolvo o erro “Unauthorized to perform action due to private marketplace eligibility” que recebo quando acesso modelos no Amazon Bedrock?