Gyrfalcon推出GAINBOARD 2803S推理加速器,优化性能功耗比。
Gyrfalcon Technology Inc.(GTI)于2018年11月29日宣布推出其第二代服务器解决方案,即GAINBOARDTM 2803S推理加速器服务器。该系统可以作为升级方案安装到现有数据中心,以快速部署人工智能加速,支持大量数据模型并行运行。GAINBOARDTM 2803S在110W功耗下提供1,084 TOPS的性能,为数据中心提供业界最佳的性能功耗比和最低的拥有成本。
与设计用于快速运行但功耗高的通用GPU不同,GTI的服务器解决方案是从头开始构建的,旨在在数据中心环境的约束条件下处理人工智能数据。GTI总裁Frank Lin表示:"许多数据中心运营商抱怨不得不等待其他供应商的产品,现在他们可以快速获得所需的解决方案,同时获得更高的性能和显著降低的功耗。"他进一步强调了该解决方案如何解决数据中心运营商的主要关切:"在数据中心,首要的商业关切是在保持成本低廉的同时能够提供比竞争对手更高的服务。我们的GAINBOARDTM 2803S推理加速器服务器的设备成本低于竞争解决方案,可降低月度能源账单,减少冷却设备需求。这是实现人工智能加速的全面胜利,避免了数据中心提供商在其他人工智能解决方案中遇到的缺点。"
每台GAINBOARDTM 2803S推理加速器服务器包含双Xeon处理器和64个单独的Lightspeeur® 2803S芯片,这些芯片分布在四块PCIe卡上,每块卡包含16个芯片,由四个Xilinx FPGA支持。其核心是GTI专有的矩阵处理引擎(MPE)和内存中人工智能处理(APiM)架构,可使用卷积神经网络(CNN)加速人工智能处理。单个Lightspeeur® 2803S芯片在仅0.7W的功耗下提供16.8 TOPS的性能,延迟低至2毫秒,支持ResNet、MobileNet、ShiftNet和VGG神经网络的推理和训练。
该设计允许人工智能模型并行处理并以级联模式运行,其中大型和复杂模型可以跨多个芯片分布,无需主处理器干预,保持高性能和低能耗。GAINBOARDTM 2803S推理加速器服务器将于2019年第一季度初上市,与GTI现有解决方案一起推出,包括采用2801S多芯片板的服务器配置,用于先进的边缘和数据中心应用,以及Lightspeeur® 2801S和2803S神经加速器。产品已经在商业上向Fujitsu、LG和Samsung等电子公司供货,现在也可供合格客户使用。