1개 답변
- 최신
- 최다 투표
- 가장 많은 댓글
0
【以下的回答经过翻译处理】 要在SageMaker端点和Kinesis Data Analytics之间进行集成,请参考此博客-https://aws.amazon.com/blogs/architecture/realtime-in-stream-inference-kinesis-sagemaker-flink/。它讲解了如何设置无服务器环境以调用SageMaker推理端点。
在使用批处理时,TensorFlow文档提到以下内容:
- 此链接提到,您可以在predict请求中包含多个实例(或在分类/回归请求中包含多个示例),以在一个请求中获取多个预测结果到您的端点。
- 此链接提到,您可以配置SageMaker TensorFlow Serving容器,在执行推理之前合并多个记录。
您仍然必须在ECS/Lambda内部处理逻辑,以控制您从流中消耗多少记录才能进行批处理,但至少根据以上内容,您可以用整个批次的数据在SageMaker端点上进行推理。
관련 콘텐츠
- 질문됨 한 달 전
- AWS 공식업데이트됨 6달 전
- AWS 공식업데이트됨 4년 전
- AWS 공식업데이트됨 2년 전
- AWS 공식업데이트됨 일 년 전