Come posso abilitare l'accesso ai modelli Anthropic Claude su Amazon Bedrock?

Risoluzione

Richiedi l'accesso ai modelli Anthropic Claude su Amazon Bedrock

Nota: devi utilizzare la console Amazon Bedrock per gestire l'accesso ai modelli.

Regioni supportate

Per accedere ai modelli Anthropic Claude su Amazon Bedrock, nelle Regioni AWS supportate, completa i seguenti passaggi:

1. Apri la console Amazon Bedrock.
2. Nel pannello di navigazione, in Bedrock configurations (Configurazioni Bedrock), scegli Model access (Accesso ai modelli).
3. Scegli Modify model access (Modifica accesso ai modelli).
4. Scegli Submit use case details (Invia i dettagli del caso d'uso).
5. Compila il modulo, quindi scegli Submit form (Invia modulo). Se la richiesta ha esito positivo, Access status (Stato accesso) cambia in Access granted (Accesso concesso) o Available to request (Disponibile su richiesta).

Regioni AWS GovCloud

Per accedere ai modelli Anthropic Claude su Amazon Bedrock nelle Regioni AWS GovCloud, completa i seguenti passaggi:

1. Individua l'ID account AWS standard associato all'ID account AWS GovCloud (Stati Uniti).
2. Utilizza l'ID account AWS standard per attivare l'accesso ai modelli.
3. Accedi all'account AWS GovCloud (Stati Uniti) e vai alla Regione richiesta da Amazon Bedrock. Quindi segui i passaggi di registrazione per l'accesso ai modelli indicati nella sezione precedente per l'accesso nelle Regioni AWS supportate. Questo ti garantisce il diritto Regionale di accedere ai modelli in quella Regione.

Il modello è accessibile all'account AWS GovCloud (Stati Uniti) collegato.

Verifica l'accesso ad Anthropic

Per verificare se puoi accedere ai modelli Anthropic Claude, utilizza la funzione dei playground Text (Testo) o Chat della console Amazon Bedrock. In alternativa, puoi effettuare una chiamata API al runtime di Bedrock utilizzando AWS SDK per Python (Boto3).

Esempio di comando:

import boto3
import json
bedrock = boto3.client(service_name='bedrock-runtime')

body = json.dumps({
    "prompt": "\n\n
Human:explain black holes to 8th graders\n\n
Assistant:",
    "max_tokens_to_sample": 300,
    "temperature": 0.1,
    "top_p": 0.9,
})

modelId = 'anthropic.claude-3-sonnet-20240229-v1:0'
accept = 'application/json'
contentType = 'application/json'

response = bedrock.invoke_model(body=body, modelId=modelId, accept=accept, contentType=contentType)

response_body = json.loads(response.get('body').read())
# text
print(response_body.get('completion'))

Per testare la configurazione di Amazon Bedrock, esegui questo comando:

import boto3
bedrock = boto3.client(service_name='bedrock')
bedrock.get_foundation_model(modelIdentifier='anthropic.claude-3-sonnet-20240229-v1:0')

Nota: per effettuare chiamate API ai modelli Amazon Bedrock, aggiungi le autorizzazioni al ruolo o all'entità utente AWS Identity and Access Management (AWS IAM).

Puoi accedere ai modelli Anthropic solo dai paesi, dalle regioni o dai territori supportati. Quando provi ad accedere ai modelli Anthropic da paesi, regioni o territori non supportati, potresti ricevere il seguente errore:

"Claude 3.x Sonnet - Access to Anthropic models is not allowed from unsupported countries, regions, or territories."

Nota: l'account AWS e l'indirizzo di fatturazione devono inoltre trovarsi in un paese, una regione o un territorio supportati per i modelli Anthropic. Per ulteriori informazioni, consulta Supported Countries for Anthropic Models (Paesi supportati per i modelli Anthropic) sul sito web Anthropic.

Informazioni correlate

Come posso risolvere l'errore "Unauthorized to perform action due to private marketplace eligibility" che ricevo quando accedo a modelli in Amazon Bedrock?