Comment ajouter des identifications de répartition des coûts lorsque j'invoque les modèles à la demande Amazon Bedrock ?

Résolution

Attribuez des identifications à un profil d'inférence d'application, puis liez le profil au modèle à la demande.

Remarque : Vous ne pouvez pas attribuer d’identifications aux modèles à la demande.

Créer un profil d'inférence d'application

Utilisez le CreateInferenceProfile. L'exemple suivant crée un profil d'inférence d'application lié à amazon.nova-pro-v1:0 avec l’identification "key": "CostAllocateTag","value": "project123".

Exemple :

aws bedrock create-inference-profile --region 'us-east-1' \
    --inference-profile-name 'profile-project123' \
    --description 'profile-project123' \
    --model-source '{"copyFrom": "arn:aws:bedrock:us-east-1::foundation-model/amazon.nova-pro-v1:0"}' \
    --tags '[{"key": "CostAllocateTag","value": "project123"}]'

Exemple de sortie :

{
    "inferenceProfileArn": "arn:aws:bedrock:us-east-1:AccountId:application-inference-profile/y1pcpudi2mb7",
    "status": "ACTIVE"
}

Activer une identification de répartition des coûts

Pour activer une identification de répartition des coûts, utilisez la console Facturation et gestion des coûts AWS.

Remarque : Les identifications apparaissent dans les 24 heures sur la page des identifications de répartition des coûts.

Invoquer le modèle

Pour invoquer le modèle, utilisez le profil d'inférence d'application. Pour l'ID de modèle, spécifiez l'ARN du profil d'inférence d'application au lieu de l'ID de modèle à la demande.

Exemple :

aws bedrock-runtime converse --region 'us-east-1' \
    --model-id 'arn:aws:bedrock:us-east-1:AccountId:application-inference-profile/y1pcpudi2mb7' \
    --messages '[{"role": "user", "content": [{"text": "Hello"}]}]'

Exemple de sortie :

{
    "output": {
        "message": {
            "role": "assistant",
            "content": [
                {
                    "text": "Hello! It's nice to have you here. I'm here to help with whatever you might need. Whether you have a question, need assistance with a topic, or just want to chat, feel free to ask. What can I assist you with today?"
                }
            ]
        }
    },
    "stopReason": "end_turn",
    "usage": {
        "inputTokens": 1,
        "outputTokens": 54,
        "totalTokens": 55
    },
    "metrics": {
        "latencyMs": 889
    }
}