1 Antwort
- Neueste
- Die meisten Stimmen
- Die meisten Kommentare
0
【以下的回答经过翻译处理】 当发布[AWS示例-BERT样本使用torch 1.4](https://github.com/aws-samples/amazon-sagemaker-bert-classify-pytorch)时,需要先了解推理的先验知识。如果使用PyTorch SageMaker SDK在训练模型后创建或部署模型,则会自动重新封装model.tar.gz以包括代码文件和推理文件。例如,当您使用以下脚本时,model.tar.gz会被重新包装,因此源目录的内容会自动添加到仅包含模型文件的代码目录model.tar.gz中。您不需要预先知道推理代码。
model_uri = estimator.model_data model = PyTorchModel(model_data=model_uri, role=role, framework_version='1.4.0', entry_point='serve.py', source_dir='src') predictor = model.deploy(initial_instance_count=1, instance_type='ml.p3.2xlarge')``` 对于旧版本,除非构建自定义容器,否则无法在推理过程中包含其他文件/依赖项。source.tar.gz仅在训练中使用。
Relevanter Inhalt
- AWS OFFICIALAktualisiert vor einem Jahr
- AWS OFFICIALAktualisiert vor 2 Jahren
- AWS OFFICIALAktualisiert vor 2 Jahren
- AWS OFFICIALAktualisiert vor 2 Jahren