AWS re:Postを使用することにより、以下に同意したことになります AWS re:Post 利用規約
AWS re:Postre:Post

TensorFlow instance

0

I'm considering launching an instance to work on one of my TensorFlow models since my current PC doesn't perform efficiently. My PC has 32GB of RAM, a 20CPU i7 processor, and an RTX 3050Ti 20GB GPU. I believe that the GPU is more important than the CPU for TensorFlow models, but I'm not entirely sure. I'm currently thinking of launching a p3.2xlarge instance, but I'd appreciate some suggestions from knowledgeable individuals. For instance, would it be better to launch an EC2 Inf1 instance instead of a P3 instance?

Best regards,

トピック
AWS上のTensorFlow機械学習と AI計算する
タグ
AWS上のTensorFlow機械学習と AI計算するAWS Inferentia
言語
English
scholar
質問済み 7ヶ月前242ビュー
1回答
0

Hi,

You may be interested by this article from HuggingFace comparing Inf1, Inf2 and GPU NVIDIA A10G from Nvidia.

https://huggingface.co/blog/accelerate-transformers-with-inferentia2

And combine it with with one involving your GPU : https://askgeek.io/en/gpus/vs/NVIDIA_NVIDIA-A10-vs-NVIDIA_NVIDIA-GeForce-RTX-3050-Ti-GA107

Combining the 2 will allow you to relate your GPU to inf1 and better inf2.

Best,

Didier

profile pictureAWS
エキスパート
Didier_Durand
回答済み 7ヶ月前

ログインしていません。 ログイン 回答を投稿する。

優れた回答とは、質問に明確に答え、建設的なフィードバックを提供し、質問者の専門分野におけるスキルの向上を促すものです。

質問に答えるためのガイドライン

関連するコンテンツ