NVIDIA公开展示其Eos超级计算机,由4,608个H100 GPU驱动,针对生成式AI优化。
英伟达周四公布了一段视频,首次向公众展示其最新企业级超级计算机Eos的架构。Eos是专为数据中心规模的先进AI开发而设计的,也是该公司最快的AI超级计算机。目前正被英伟达自身使用的Eos机器在最新的Top 500列表中排名全球第9位,该列表以FP64衡量;在纯AI任务中,它可能是最快的。Eos的蓝图可用于为其他公司构建企业级超级计算机。
Eos配备了576个DGX H100系统,每个系统包含8个英伟达H100 GPU,用于人工智能和高性能计算工作负载。总计,该系统配备了1,152个英特尔至强铂金8480C处理器,每个处理器56个核心,以及4,608个H100 GPU。这一配置使Eos能够达到令人印象深刻的121.4 FP64 PetaFLOPS的Rmax性能,以及18.4 FP8 ExaFLOPS的性能,分别用于HPC和AI工作负载。
Eos的设计基于DGX SuperPOD架构,专为AI工作负载和可扩展性而构建。该系统使用英伟达的Mellanox Quantum-2 InfiniBand和网络计算内核技术,具有高达400 Gb/s的数据传输速度——这对于有效训练大型AI模型和横向扩展至关重要。英伟达表示,"Eos拥有集成软件栈,包括AI开发和部署软件、编排和集群管理、加速计算存储和网络库,以及针对AI工作负载优化的操作系统。"
Eos建立在从英伟达之前的DGX超级计算机(如Saturn 5和Selene)获得的知识基础之上,代表了英伟达AI专业知识的最新典范。英伟达在视频中指出,"Eos每天都在迎接数千名英伟达内部AI研究开发人员的挑战,帮助他们解决以前无法解决的问题。"该公司进一步指出,"通过创建像Eos这样的AI工厂,企业可以承担最具挑战性的项目,实现他们今天及未来的AI抱负。"该系统可以处理从类ChatGPT的生成式AI到AI工厂等各种应用。
Eos的确切成本仍未披露,因为英伟达DGX H100系统的定价是保密的,并取决于批量等因素。不过,根据批量,单个英伟达H100 GPU的成本在30,000美元至40,000美元之间,因此总系统成本可能相当可观。