2 Respostas
- Mais recentes
- Mais votos
- Mais comentários
0
Here is a blog post on how deploy the laregest BLOOM model (176B parameters): https://aws.amazon.com/blogs/machine-learning/deploy-bloom-176b-and-opt-30b-on-amazon-sagemaker-with-large-model-inference-deep-learning-containers-and-deepspeed/
For smaller models you can leverage SageMaker Jumpstart: https://aws.amazon.com/blogs/machine-learning/run-text-generation-with-gpt-and-bloom-models-on-amazon-sagemaker-jumpstart/
respondido há 2 anos
Conteúdo relevante
- feita há um mês
- feita há um mês
- feita há um mês
- feita há 2 meses
- AWS OFICIALAtualizada há um ano
- AWS OFICIALAtualizada há 2 anos