算力与云 · 报道
AMD向全球最大的私有云计算平台之一交付了数千个Instinct MI300x GPU。
大规模MI300x部署证明了对NVIDIA的可行替代方案,并拓展了竞争性GPU供应格局。
行业媒体Slicast · 2024年10月6日 UTC 12:00 · 全球 · 来源: techradar.com
重要度 85AMD的Instinct MI300X是一款高性能AI加速器,基于该公司第三代CDNA架构和台积电先进的5纳米及6纳米工艺构建。该处理器具有19,456个流处理器、192GB HBM3内存、304个计算单元、1,216个矩阵核心,热设计功耗(TDP)为750瓦特。在早期基准测试中,它的性能明显超越了英伟达的RTX 4090。领先的私营云计算平台Vultr宣布计划将这一先进的AMD硬件与其可扩展的云基础设施集成,以更有效地管理GPU加速工作负载,并在数据中心和边缘计算中提供无缝性能。
该合作旨在为企业提供世界一流的AI开发环境。Vultr首席执行官J.J. Kardwell表示:"创新在开放生态系统中茁壮成长。企业AI工作负载的未来在于允许灵活性、可扩展性和安全性的开放环境。AMD加速器为我们的客户提供了无可匹敌的性价比。高内存与低功耗的良好平衡推进了可持续发展工作,使我们的客户能够通过AI高效推动创新和增长。" AMD的架构与Vultr的平台相结合,将使企业能够利用开源预训练模型,从而简化AI项目开发。
AMD数据中心GPU业务部门商业发展副总裁Negin Oliver表示:"我们为与Vultr的紧密合作感到骄傲,因为其云平台旨在管理高性能AI训练和推理任务,并提供更高的总体效率。"通过采用AMD Instinct MI300X加速器和ROCm开源软件,Vultr的客户将受益于一个真正优化的系统来管理各种AI密集型工作负载。
该合作还优化了Vultr的基础设施以支持GPU加速Kubernetes集群,能够全球处理复杂工作负载。Vultr尚未透露其订购的Instinct MI300X单位的确切数量,仅表示初始集群规模在"数千"个。