Bedrock Titan completionReason CONTENT_FILTERED

0

Using Bedrock LLM model "amazon.titan-text-express-v1" in French, if I submit this question:

"Quand Simone Veil a été élue Présidente du Parlement européen ?"

I get the correct answer: "Simone Veil a été élue Présidente du Parlement européen le 17 juillet 1979."

However if I submit this slightly different quesiton:

"Quand Simone Veil est élue Présidente du Parlement européen ?"

I get "Sorry - this model is unable to respond to the prompt." and completionReason is CONTENT_FILTERED.

What does CONTENT_FILTERED mean?

gefragt vor einem Monat979 Aufrufe
1 Antwort
0

Bonjour,

Je crois comprendre que vous obtenez « CONTENT_FILTERED » comme valeur pour CompletionReason renvoyée par la ligne de commande InvokeModel lors de l'exécution du modèle Titan en français et j'aimerais recueillir plus d'informations à ce sujet.

Sachez que le modèle Titan actuel ne prend en charge que la saisie en anglais [1]. Lorsque vous utilisez le modèle Titan avec une entrée autre que l'anglais [1], vous pouvez rencontrer un CompletionReason « CONTENT_FILTERED » dans la réponse. Cela se produit parce que la sortie est signalée et filtrée par le service parce qu'elle n'est pas en anglais.

Le CompletionReason indique pourquoi le modèle a arrêté le processus d'échantillonnage [2] :

  • TERMINÉ : Le modèle a atteint une séquence d'arrêt ou un jeton d'arrêt directement intégré dans l'espace des jetons.
  • LONGUEUR : Le modèle a atteint la limite d'échantillonnage maximale, MaxTokenCount.
  • CONTENT_FILTERED : Le service a marqué le contenu, en l'occurrence pour la langue.

En résumé, le modèle Titan est conçu pour une saisie en anglais, c'est-à-dire généralement disponible [1]. L'utilisation d'une entrée autre que l'anglais entraînera le marquage et le filtrage de la sortie, renvoyant « CONTENT_FILTERED » comme CompletionReason. Pour éviter cela, veillez à utiliser la saisie anglaise avec le modèle pour le moment.

Si vous rencontrez des difficultés ou si vous rencontrez toujours des problèmes, veuillez contacter AWS Support [3] (Bedrock) en détaillant votre problème ou votre cas d'utilisation, et nous serons ravis de vous aider davantage.

Références :


[1] https://aws.amazon.com/bedrock/titan/

[2] https://docs.aws.amazon.com/bedrock/latest/userguide/model-parameters-titan.html#model-parameters-titan-response-body

[3] Création de dossiers de support et gestion des dossiers : https://docs.aws.amazon.com/awssupport/latest/user/case-management.html#creating-a-support-casehttps://docs.aws.amazon.com/awssupport/latest/user/case-management.html#creating-a-support-case

AWS
beantwortet vor einem Monat

Du bist nicht angemeldet. Anmelden um eine Antwort zu veröffentlichen.

Eine gute Antwort beantwortet die Frage klar, gibt konstruktives Feedback und fördert die berufliche Weiterentwicklung des Fragenstellers.

Richtlinien für die Beantwortung von Fragen