在 EKS 上使用 Ray Train DLC 和 EFA 进行分布式训练

判断

平台团队若决定是否将 AWS 构建的 Ray Train DLC 标准化，必须权衡更快的集群启动与放弃对镜像内置 CUDA、NCCL、EFA 和 Ray 版本的控制。

依据

Sunita Koppar、Kevin Wang 和 Sukhmeet Singh 将该容器描述为扩展瓶颈：每个节点都需要匹配的 CUDA、PyTorch、NCCL、EFA 用户空间库、AWS OFI NCCL 插件，以及一致的 Ray 版本。AWS 在 Amazon ECR Public 中构建、测试、修补并发布 Ray Train DLC；KubeRay 依据一个 RayCluster 清单构建集群，Ray Train 将八个工作进程（每个 GPU 一个）分布到启用了 EFA 的 g6.12xlarge 节点上。该机制以镜像级控制换取预集成栈。