Unable to run haystack model with sagemaker

0

Hi, I need to deploy Haystack model for question answering system. I followed below tutorial, but it is failing while making the session with sagemaker. I am getting below error

https://github.com/deepset-ai/haystack-sagemaker

provide custom invocation layer for jumpstart-dft-hf-llm-falcon-40b-instruct-bf16 by subclassing PromptModelInvocationLayer

Please help if someone has any idea about this.

Sem respostas

Você não está conectado. Fazer login para postar uma resposta.

Uma boa resposta responde claramente à pergunta, dá feedback construtivo e incentiva o crescimento profissional de quem perguntou.

Diretrizes para responder a perguntas