2026年11月17日星期二
AI 基础设施 · 新闻与分析
首页 › 数据中心 › 报道
数据中心 · 报道

F5 BIG-IP NEXT for Kubernetes通过智能负载均衡在GPU集群效率中实现3倍性能提升。

先进的集群网络优化降低闲置GPU周期;结构级性能软件对大规模训练和推理成为关键。
行业媒体Slicast · 2026年10月1日 UTC 18:14 · 全球 · 来源: ServeTheHome
重要度 55

我们参观了一个实验室,该实验室展示了运行在NVIDIA BlueField DPU上的F5 BIG-IP应用交付和安全栈。虽然该解决方案也可以在主CPU上运行,但这种方法会消耗宝贵的处理核心。F5 BIG-IP Next for Kubernetes(BNK)位于客户端和GPU基础设施之间,用于处理LLM路由、token管理以及在网络边缘的第4层到第7层安全防护。我们亲眼观察了其性能影响,这是意义重大的——提高GPU性能的方式直接转化为从相同功率和GPU占用获得更多吞吐量,这两者都是当今的关键制约因素。

我们前往加州访问了该实验室并进行了现场拍摄。这只有通过F5的赞助才成为可能,因为该设施通常限制外部访问。实验室本身非常干净整洁,组织良好。

F5既制造硬件设备也提供软件解决方案。BNK产品将传统上运行在专用设备上的许多功能转移到NVIDIA BlueField-3 DPU上,或者可选择转移到主CPU上。

记录AI机架中的网络基础设施很重要,因为许多人低估了其复杂性。GPU集群需要多个不同的网络:GPU到GPU流量、GPU到存储通信、用户和应用网络、节点和主机操作系统的控制平面,以及交换机、冷却基础设施、PDU和串行控制台服务器的网络。有些以较低速度运行;其他的每端口运行400Gbps或800Gbps,这是高速网络结构中越来越标准的配置。

我们的测试集群需要多个GPU服务器来模拟多个并发用户。我们在Supermicro服务器中部署了NVIDIA H100"Hopper"代GPU,以及用于Kubernetes主机和集群存储的额外系统。

每个Supermicro GPU服务器托管两个NVIDIA BlueField-3 DPU,而顶级2U系统各配备八个DPU。即使DPU本身也维护着独立的管理接口,为基础设施增加了另一层复杂度。

现代AI集群中网络的规模和多样性——涵盖不同的流量类型、多个用户配置文件和各种应用——需要复杂的解决方案。我们为实验室配备了Keysight IxNetwork和CyPerf负载生成器,每个都能生成超过1.6 Tbps的流量。这次访问突出强调了在这种复杂性中管理应用交付、用户访问和安全性的关键重要性。

我们现在着手测试F5 BIG-IP Next for Kubernetes解决方案。

阅读原文
F5 BIG-IP NEXT for… · Slicast