Wie aktiviere ich den Zugriff auf Anthropic Claude-Modelle auf Amazon Bedrock?

Lösung

Zugriff auf Anthropic Claude-Modelle auf Amazon Bedrock anfordern

Hinweis: Du musst die Amazon Bedrock-Konsole verwenden, um den Modellzugriff zu verwalten.

Unterstützte Regionen

Gehe wie folgt vor, um auf Anthropic Claude-Modelle auf Amazon Bedrock in unterstützten AWS-Regionen zuzugreifen:

1. Öffne die Amazon Bedrock-Konsole.
2. Wähle im Navigationsbereich unter Bedrock-Konfigurationen die Option Modellzugriff aus.
3. Wähle Modellzugriff ändern aus.
4. Wähle Details zum Anwendungsfall einreichen aus.
5. Fülle das Formular aus und wähle dann Formular senden aus. Wenn deine Anfrage erfolgreich ist, ändert sich der Zugriffsstatus in Zugriff gewährt oder Verfügbar auf Anfrage.

AWS GovCloud-Regionen

Gehe wie folgt vor, um auf Anthropic Claude-Modelle auf Amazon Bedrock in AWS GovCloud-AWS-Regionen zuzugreifen:

1. Finde deine standardmäßige AWS-Konto-ID, die mit deiner AWS GovCloud (US)-Konto-ID verknüpft ist.
2. Verwende deine standardmäßige AWS-Konto-ID, um den Modellzugriff zu aktivieren.
3. Melde dich bei deinem AWS GovCloud (US)-Konto an und navigiere zur für Amazon Bedrock erforderlichen Region. Folge dann den Schritten zur Registrierung für den Modellzugriff im vorherigen Abschnitt für den Zugriff in unterstützten AWS-Regionen. Dadurch erhältst du eine regionale Berechtigung für den Zugriff auf die Modelle in dieser Region.

Das Modell ist für das verknüpfte AWS GovCloud (US)-Konto zugänglich.

Teste deinen Zugang zu Anthropic

Um zu testen, ob du auf die Anthropic Claude-Modelle zugreifen kannst, verwende die Text- oder Chat-Playgrounds-Funktion auf der Amazon Bedrock-Konsole. Oder du kannst das AWS SDK für Python (Boto3) verwenden, um einen API-Aufruf an Bedrock-Laufzeit zu tätigen.

Beispielbefehl:

import boto3
import json
bedrock = boto3.client(service_name='bedrock-runtime')

body = json.dumps({
    "prompt": "\n\n
Human:explain black holes to 8th graders\n\n
Assistant:",
    "max_tokens_to_sample": 300,
    "temperature": 0.1,
    "top_p": 0.9,
})

modelId = 'anthropic.claude-3-sonnet-20240229-v1:0'
accept = 'application/json'
contentType = 'application/json'

response = bedrock.invoke_model(body=body, modelId=modelId, accept=accept, contentType=contentType)

response_body = json.loads(response.get('body').read())
# text
print(response_body.get('completion'))

Führe den folgenden Befehl aus, um das Amazon Bedrock-Setup zu testen:

import boto3
bedrock = boto3.client(service_name='bedrock')
bedrock.get_foundation_model(modelIdentifier='anthropic.claude-3-sonnet-20240229-v1:0')

Hinweis: Um API-Aufrufe an Amazon Bedrock-Modelle zu tätigen, füge der Rolle oder Benutzerentität von AWS Identity and Access Management (IAM) Berechtigungen hinzu.

Du kannst nur aus unterstützten Ländern, Regionen oder Gebieten auf Anthropic-Modelle zugreifen. Wenn du versuchst, aus Ländern, Regionen oder Gebieten, die nicht unterstützt werden, auf Anthropic-Modelle zuzugreifen, wird möglicherweise die folgende Fehlermeldung angezeigt:

„Claude 3.x Sonnet - Access to Anthropic models is not allowed from unsupported countries, regions, or territories.“ (Claude 3.x Sonnet – Zugriff auf Anthropic-Modelle aus Ländern, Regionen oder Gebieten, die nicht unterstützt werden, ist nicht gestattet.)

Hinweis: Dein AWS-Konto und deine Rechnungsadresse müssen sich ebenfalls in einem Land, einer Region oder einem Gebiet befinden, das für Anthropic-Modelle unterstützt wird. Weitere Informationen findest du unter Unterstützte Länder für Anthropic-Modelle auf der Anthropic-Website.

Verwandte Informationen

Wie behebe ich den Fehler „Unauthorized to perform action due to private marketplace eligibility“, den ich erhalte, wenn ich auf Modelle auf Amazon Bedrock zugreife?