NCCL Support in EFA ( Nitro V3)

NCCL Operations uses RDMA WRITE/WRITE IMM for few of the collectives ( all_reduce, all2all) but looking the support page Nitro V3 dont support RDMA RDMA Write , that means NCCL dont run on Nitro V3 ?

タグ: Elastic Fabric Adapter
言語: English

Alok

質問済み 1年前234ビュー

1回答

新しい順
投票が多い順
コメントが多い順

As per Get started with EFA and NCCL for ML workloads on Amazon EC2, EFA and NCCL is supported on

p4d.24xlarge, p5.48xlarge and newer P series instance types
Amazon Linux 2023, Amazon Linux 2, Ubuntu 24.04, and Ubuntu 22.04 base AMIs
NCCL 2.4.2 and later

As per documentation, Nitro v3 Supports RDMA read with EFA for p4d(e).24xlarge instances. p5en.48xlarge runs on Nitro v5 and support RMDA write

エキスパート

MikeLim

回答済み 1年前

関連するコンテンツ

CodeDeployにてThe deployment failed because a non-empty field was discovered on your Auto Scaling group that Code Deploy does not currently support copying. Unsupported fields:が表示されデプロイが進まない
承認された回答
rePost-User-6968076
質問済み 3年前
サポートケースのステータスの意味
User-3552654
質問済み 2年前
（Strict End of Support Date for Amazon RDS for MySQL 5.7.41）Amazon RDS for MySQLの5.7.41の厳密なサポート終了日について
rePost-User-9305721
質問済み 3年前
Knowledge BaseのベクトルストアにS3 Vectorsを使用した時のメタデータフィルタについて
承認された回答
Y1
質問済み 1年前
電話で AWS アカウントを確認しようとしたときに「maximum number of failed attempts」エラーを解決する方法を教えてください。
AWS公式更新しました 4年前
IAM 認証情報エラー "The security token included in the request isn’t valid" を解決する方法を教えてください。
AWS公式更新しました 2年前
Nitro システム上に構築された EC2 インスタンスのサイズを変更する方法を教えてください。
AWS公式更新しました 9ヶ月前
Amazon EC2 で、ワークロードを Xen ベースのインスタンスから Nitro ベースのインスタンスに移行する方法を教えてください。
AWS公式更新しました 2年前
アベイラビリティーゾーン (AZ) の移行&インスタンスのアップグレードガイド
エキスパート
Sumikawa_M
公開済み 2年前
AWS Application Migration Service (MGN) とエージェントレス vCenter クライアントを利用して VMware 仮想環境から AWS への移行を加速させる
エキスパート
Koichi Takeda
公開済み 2年前

NCCL Support in EFA ( Nitro V3)

回答を追加する

関連するコンテンツ