Come posso risolvere gli errori durante il fine-tuning dei modelli in Amazon Bedrock?

Risoluzione

Nota: se ricevi errori quando esegui i comandi dell'Interfaccia della linea di comando AWS (AWS CLI), consulta Risoluzione degli errori per AWS CLI. Inoltre, assicurati di utilizzare la versione più recente di AWS CLI.

Problemi di accesso e disponibilità

Prerequisito:richiedi l'accesso al modello base.

Amazon Bedrock supporta il fine-tuning in alcune Regioni AWS e modelli base. Assicurati di utilizzare una Regione AWS supportata per il modello con funzionalità di fine-tuning.Se la Regione non supporta il modello, il selettore di modelli di Amazon Bedrock viene continuamente caricato. Se non riesci a creare un processo di fine-tuning, potresti ricevere il seguente messaggio di errore:

"Unable to Create a fine-tuning job ("The provided model identifier is invalid" error)"

Per risolvere l'errore di accesso, verifica che il modello e le funzionalità di fine-tuning siano supportati nella Regione AWS che preferisci.

Se vedi una schermata vuota o non riesci a selezionare un modello, ciò significa che il modello non è disponibile in quella Regione o l'account AWS non ha accesso al modello. Per risolvere il problema, seleziona un modello su reti e browser diversi. Quando selezioni i modelli, acquisisci un file HAR. Quindi verifica di non avere restrizioni per la VPN, il firewall o l'infrastruttura desktop virtuale (VDI). Se non riesci comunque ad accedere alla console Amazon Bedrock, contatta l'amministratore di rete.

Problemi relativi alle autorizzazioni IAM

Per personalizzare un modello accedendo al bucket Amazon Simple Storage Service (Amazon S3), devi collegare le autorizzazioni corrette al ruolo AWS Identity and Access Management (AWS IAM). Se non hai configurato correttamente le autorizzazioni per il ruolo IAM, ricevi il seguente messaggio di errore:

"Encountered an unexpected error when processing the request, please try again","AccessDenied"."

Per risolvere il problema, concedi le autorizzazioni IAM per Amazon Bedrock in modo da poter personalizzare il modello.

Errori di accesso tra Regioni

I processi di fine-tuning possono accedere ai dati di Amazon S3 solo nella stessa Regione in cui vengono eseguiti. Se provi ad accedere ai dati di addestramento archiviati in un bucket S3 che si trova in una Regione diversa da quella del processo di fine-tuning, ricevi il seguente messaggio di errore:

"Could not validate GetObject permissions to access S3 bucket"

Per risolvere il problema, verifica che il bucket S3 e il processo di fine-tuning di Amazon Bedrock si trovino entrambi nella stessa Regione. Quindi sposta i dati di addestramento in un bucket S3 nella stessa Regione di Amazon Bedrock.

Errori di formato e convalida dei dati

I set di dati devono soddisfare i requisiti del modello di addestramento e convalida. Se invii un set di dati di addestramento con una struttura o un formato JSON errati, potresti ricevere uno dei seguenti errori:

"The provided S3 URI is invalid", ";validation error detected: Value 's3://..' failed to satisfy constraint:" Member must satisfy regular expression pattern.."

"Invalid training input data configuration. Check the input data S3 Uris(Uri should be a file, not a directory) and retry request"

Per risolvere il problema, assicurati di utilizzare URI (File Uniform Resource Identifier) e verifica che non corrispondano a URI di directory.

Esempio di URL: s3://bucket-name/datasets/train/train.jsonl

Esempio di URL di directory: s3://bucket-name/datasets/train/

Quindi controlla che il percorso punti verso la posizione esatta del file. Se il percorso non punta verso la posizione esatta del file, verifica la struttura completa del percorso nel bucket S3.Aggiorna l'URI del file in modo che corrisponda alla posizione esatta e al nome del file in cui memorizzi i dati di addestramento.

Convalida della struttura del set di dati

Diversi modelli di testo hanno requisiti di dati e schemi JSON attesi diversi. Se invii un set di dati di addestramento con una struttura o un formato JSON errati, potresti ricevere il seguente errore:

"JSON structure is not supported: JSON schema error: JSON does not match JSON schema at line."

Per risolvere il problema, prepara i dati per il fine-tuning dei modelli testo-testo.

Problemi di fine-tuning delle immagini

Amazon Bedrock deve avere accesso al file di immagine nella dimensione specificata. Se carichi immagini che non soddisfano i requisiti dimensionali specifici per il modello di cui stai eseguendo il fine-tuning, potresti ricevere il seguente errore:

"Image Dimensions are Invalid. Check that the images conform to accepted dimensions."

Verifica che le dimensioni dell'immagine soddisfino i requisiti del modello specifico. Quindi verifica di aver preparato i set di dati dell'immagine per il modello specifico.

Nota: alcuni modelli supportano solo il fine-tuning del testo e non delle immagini.

Errori di convalida

I tuoi file devono essere compatibili con il modello. Se invii dati di addestramento che non soddisfano i requisiti di formattazione del modello o contengono problemi strutturali, potresti ricevere il seguente errore:

"Validation error: failed during preprocessing"

Per risolvere il problema, verifica il formato dei dati:

• Assicurati che il file JSONL abbia un oggetto JSON valido per riga.
• Verifica di aver incluso i campi obbligatori in ogni esempio.
• Verifica che gli esempi non superino le quote massime di token del modello.
• Verifica che il file utilizzi la codifica UTF-8 senza problemi di caratteri speciali.

Monitora lo stato del processo

Puoi utilizzare la console Amazon Bedrock o AWS CLI per monitorare lo stato del processo. Il monitoraggio dei progressi in tempo reale non è disponibile in Amazon Bedrock.

Per utilizzare la console, consulta Monitora il processo di personalizzazione del modello.

Per utilizzare AWS CLI, esegui questo comando get-model-customization-job:

aws bedrock get-model-customization-job -job-identifier "jobARN"

Nota: sostituisci jobARN con il nome della risorsa Amazon (ARN) del tuo processo.

Puoi quindi stimare il tempo necessario per completare ogni processo come indicazione del tempo di completamento effettivo del modello. Quando effettui una stima, considera i seguenti fattori:

• La durata del fine-tuning dipende dalla dimensione dei dati, dal numero di epoche e dalla dimensione del batch.
• Gli errori iniziali compaiono entro i primi minuti.
• Per set di dati più grandi, il completamento del fine-tuning può richiedere diverse ore.
• Il tempo di addestramento dura da 3-4 a 24 ore, a seconda della configurazione e del traffico.

Se un processo ha esito negativo, consulta Risoluzione dei problemi di personalizzazione del modello.

Se un processo è nello stato Addestramento da più di 24 ore, contatta il Supporto AWS.

Inferenza per modelli ottimizzati con fine-tuning

Per i modelli personalizzati ottimizzati con fine-tuning, fuorché nel caso dei modelli Amazon Nova, devi acquistare Provisioned Throughput per creare un ARN del modello fornito distinto da utilizzare al posto dell'ARN del modello originale.

Se provi a utilizzare l'ARN del modello originale direttamente nelle chiamate API, potresti ricevere il seguente errore:

"An error occurred (ValidationException) when calling the xxxx operation: 1 validation error detected: Value 'arn:aws:bedrock:xxxxx' at 'modelId' failed to satisfy constraint: Member must satisfy regular expression pattern: ..."

Per risolvere il problema, completa i seguenti passaggi:

1. Crea un Provisioned Throughput per il modello ottimizzato con fine-tuning.
2. Annota l'ARN del modello fornito cje compare nella risposta.
3. Quando chiami modelli ottimizzati con fine-tuning tramite l'API, utilizza il seguente formato di ARN del modello specifico per i modelli personalizzati:
   arn:aws:bedrock:[region]:[account]:provisioned-model/[name]
   Nota: sostituisci region con la tua Regione, account con le informazioni del tuo account e name con il nome del tuo modello.
4. Verifica che il modello fornito sia nello stato InService prima di utilizzare la chiamata API GetProvisionedModelThroughput.

Informazioni correlate

Imposta l'inferenza per un modello personalizzato

Personalizza il tuo modello per migliorarne le prestazioni per il tuo caso d'uso