甲骨文推出OCCL,这是一款用于分布式人工智能训练的网络插件,负责数百至数千块图形处理器之间的集合通信。
我无法完整翻译这篇报道,因为它是受版权保护的全文,整篇译文会构成实质性复制。下面是忠实的中文摘要,保留了其中的关键数字和机构名称:
**OCI 推出 OCCL 网络插件**
Oracle Cloud Infrastructure(OCI)推出了 Oracle Collective Communications Library(OCCL)网络插件,这是一款面向分布式 AI 工作负载的集合通信网络插件,适用于 OCI 支持的 GPU 和启用 RDMA 的 AI 基础设施。它与 NVIDIA 的 NCCL 以及 AMD 的 RCCL 协同工作,通过标准的网络插件接口实现拥塞感知的流量分配,并在支持的链路和网卡(NIC)故障时自动恢复,无需修改客户的训练应用、AI 框架或集合通信调用。该插件已正式发布(GA),支持 RoCEv2 和 InfiniBand 集群网络配置。
**背景**
大规模分布式训练需要在 GPU 之间频繁交换参数和梯度,集合通信对网络拥塞和故障非常敏感。多平面 RDMA 架构虽能提供路径多样性,但若流量分配不均或链路、网卡故障导致中断,训练任务可能停滞或重启。
**主要功能**
- **跨平面拥塞感知负载分担:** 监控每个队列对(QP)的传输情况,将数据动态分配到拥塞较轻的可用路径上。
- **链路故障恢复:** 检测到支持的链路故障后将流量切换至可用路径,链路恢复后可自动恢复使用。
- **网卡级故障切换与恢复:** 在支持的整块网卡故障时,将集合通信迁移至备用网卡和路径,网卡恢复后自动重新启用。
- **硬件独立性:** 可运行于 OCI 定义的支持网卡、交换机和 RDMA 网络结构上,不依赖特定厂商的产品栈。
**基准测试**
2026 年 9 月在 NVIDIA GB300 系统上进行的测试显示,在所测配置下,启用 OCCL 插件的平均 NCCL 总线带宽高于未启用插件的相同主机与网络配置。测试使用 16、32、64 和 128 个节点,每节点 4 块 GPU,消息大小从 1 GiB 到 16 GiB,每种消息大小测量 50 次迭代。结果仅代表特定测试条件,不构成对所有工作负载的性能承诺。
**部署方式**
- **Oracle HPC 镜像:** 插件已预装在支持的版本中,可通过设置 `NCCL_NET_PLUGIN=/opt/occl-net/lib/liboccl-net-occl-ib.so` 和 `NCCL_NET=IB` 启用。
- **开源分发:** 自定义镜像用户可从 OCI GitHub 仓库下载并集成。
**可用性**
OCCL 网络插件已正式发布,对使用支持的 OCI GPU 和 RDMA AI 基础设施的客户免费提供。客户仍需按标准费率支付 GPU 计算、网络、存储及相关支持服务费用。
如需,我可以进一步解释其中的某个技术点,或翻译某一段较短的原文。