Come posso risolvere i problemi più comuni con SageMaker AI JumpStart?

Risoluzione

Non riesci visualizzare i modelli di fondazione di SageMaker

Se non riesci a visualizzare i modelli di fondazione di SageMaker AI sulla console SageMaker AI o su SageMaker AI Studio, potresti ricevere uno dei seguenti errori:

"There's been an error with your request. Please retry and contact support."

"Something went wrong: Please ensure that your account is authorized to read from Amazon S3"

Questi errori si verificano quando non disponi dell'autorizzazione AWS Identity and Access Management (AWS IAM) per accedere alle policy di aws-marketplace o delle autorizzazioni di lettura o scrittura per Amazon Simple Storage Service (Amazon S3).

Per accedere ai modelli di fondazione di SageMaker AI, utilizza la policy gestita AmazonSageMakerFullAccess. Se non hai accesso a questa policy, utilizza una policy di scope down che includa le autorizzazioni richieste per l'hub del modello di fondazione di SageMaker AI.

Se hai ricevuto l'errore sulla console SageMaker AI, aggiungi la seguente policy al tuo ruolo di runtime IAM:

{
            "Effect": "Allow",
            "Action": [
                "s3:GetObject"
            ],
            "Resource": "arn:aws:s3:::example-bucket/*",
            "Condition": {
                "StringEqualsIgnoreCase": {
                    "s3:ExistingObjectTag/SageMaker": "true"
                }
            }
        },
        {
            "Effect": "Allow",
            "Action": [
                "s3:GetObject"
            ],
            "Resource": "arn:aws:s3:::example-bucket/*",
            "Condition": {
                "StringEquals": {
                    "s3:ExistingObjectTag/servicecatalog:provisioning": "true"
                }
            }
        }

Nota: sostituisci example-bucket con il tuo bucket Amazon S3.

Se hai ricevuto l'errore per SageMaker AI Studio, aggiungi la seguente policy al tuo ruolo di runtime del dominio:

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "sagemaker:InvokePlaygroundEndpoint",
                "aws-marketplace:Subscribe",
                "aws-marketplace:ViewSubscriptions"
            ],
            "Resource": [
                "*"
            ]
        },
        {
            "Effect": "Allow",
            "Action": [
                "lambda:InvokeFunction"
            ],
            "Resource": [
                "arn:aws:lambda:*:*:function:SageMakerFoundationHubAppConfigLambdaFunction"
            ]
        }
    ]
}

Ricevi l'errore "HeadObject operation: Not Found"

Quando imposti l'attributo model_version del notebook SageMaker AI Studio su * per utilizzare la versione più recente del modello, potresti ricevere il seguente messaggio di errore:

"An error occurred (404) when calling the HeadObject operation: Not Found"

L'errore si verifica quando SageMaker aggiorna tutti i modelli per utilizzare artefatti del modello non compressi. Per risolvere il problema, imposta l'attributo model_version del notebook su una versione esatta del modello.

Ricevi l'errore "Your invocation timed out"

Quando l'elaborazione di un'invocazione richiede più di un numero specificato di secondi si verifica un timeout di invocazione. Di conseguenza, viene visualizzato il seguente messaggio di errore:

"Error: Your invocation timed out while waiting for a response from container primary. Review the latency metrics for each container in Amazon CloudWatch, resolve the issue, and try again."

Per risolvere il problema, imposta il tempo di elaborazione su una soglia di sicurezza.

Per evitare un timeout di invocazione, utilizza le seguenti best practice:

• Per mantenere il tempo di elaborazione al di sotto della soglia specificata, limita il numero di token generati.
• Se necessario, suddividi l'input in più invocazioni. Inoltre, combina le risposte per fornire un contesto.
• Utilizza una risposta in streaming.
• Se le richieste parallele o gli ambienti multi-tenant sono lenti, aumenta la soglia di sicurezza sui token massimi.

Inoltre, è consigliabile disattivare i tentativi automatici del client boto3 che causano più ripetizioni del timeout:

import botocore; config=botocore.config.Config(retries=dict(max_attempts=0))

Per proseguire la risoluzione dei problemi, controlla le metriche di Amazon CloudWatch per gli endpoint di inferenza SageMaker AI o Amazon Bedrock.

Informazioni correlate

Enable Amazon SageMaker JumpStart for custom IAM execution roles (Abilitazione di Amazon SageMaker JumpStart per ruoli di esecuzione IAM personalizzati)

Built-in algorithms with pre-trained model table (Algoritmi integrati con tabella del modello preaddestrata) sul sito web di SageMaker

Introduction to JumpStart - text to image (Introduzione a JumpStart: testo in immagine) sul sito web di GitHub