在Inferentia对应的实例上部署Diffusers模型

0

【以下的问题经过翻译处理】 Inferentia对应的实例上是否支持Diffusers模型的部署?如果已经支持,有哪些文档可以指导如何实现呢?

profile picture
EXPERTE
gefragt vor 8 Monaten61 Aufrufe
1 Antwort
0

【以下的回答经过翻译处理】 目前,Stable Diffusion模型已经支持在Inf2实例上进行推理,请参考https://awsdocs-neuron.readthedocs-hosted.com/en/latest/release-notes/prev/rn.html了解最新支持情况。

关于Stable Diffusion模型在Inf2实例上的性能和实现,请参考https://awsdocs-neuron.readthedocs-hosted.com/en/latest/general/benchmarks/inf2/inf2-performance.html

关于Stable Diffusion模型在Inf2实例上的部署,请参考https://github.com/deepjavalibrary/djl-serving/commit/32ee6126c929d71f1baa85398311a00fda66f65f#diff-fd70585af92587202a9756f6c688c77427606e290f70f386147a07c1bf5ecda3

profile picture
EXPERTE
beantwortet vor 8 Monaten

Du bist nicht angemeldet. Anmelden um eine Antwort zu veröffentlichen.

Eine gute Antwort beantwortet die Frage klar, gibt konstruktives Feedback und fördert die berufliche Weiterentwicklung des Fragenstellers.

Richtlinien für die Beantwortung von Fragen

Relevanter Inhalt