1 réponse
- Le plus récent
- Le plus de votes
- La plupart des commentaires
0
【以下的回答经过翻译处理】 要在SageMaker端点和Kinesis Data Analytics之间进行集成,请参考此博客-https://aws.amazon.com/blogs/architecture/realtime-in-stream-inference-kinesis-sagemaker-flink/。它讲解了如何设置无服务器环境以调用SageMaker推理端点。
在使用批处理时,TensorFlow文档提到以下内容:
- 此链接提到,您可以在predict请求中包含多个实例(或在分类/回归请求中包含多个示例),以在一个请求中获取多个预测结果到您的端点。
- 此链接提到,您可以配置SageMaker TensorFlow Serving容器,在执行推理之前合并多个记录。
您仍然必须在ECS/Lambda内部处理逻辑,以控制您从流中消耗多少记录才能进行批处理,但至少根据以上内容,您可以用整个批次的数据在SageMaker端点上进行推理。
Contenus pertinents
- demandé il y a 5 mois
- demandé il y a un an
- demandé il y a 9 mois
- demandé il y a 7 mois
- AWS OFFICIELA mis à jour il y a 2 ans
- AWS OFFICIELA mis à jour il y a 6 mois
- AWS OFFICIELA mis à jour il y a 6 mois
- AWS OFFICIELA mis à jour il y a 6 mois