Celestial AI融资1亿美元用于扩展其光子结构互连技术平台。

光学互连技术开发商Celestial AI宣布了B轮融资的成功完成，为其Photonic Fabric技术平台筹集了1亿美元。本轮融资由IAG Capital Partners、Koch Disruptive Technologies (KDT)和淡马锡旗下的Xora Innovation基金领投。其他参与者包括Samsung Catalyst、Smart Global Holdings (SGH)、保时捷汽车控股公司(Porsche Automobil Holding SE)、The Engine Fund、ImecXpand、M Ventures和Tyche Partners。这使Celestial AI从种子轮到B轮的总融资额达到1.65亿美元。

GPT-4等先进人工智能模型和推荐引擎需要不断增加的内存容量和带宽，这对云服务提供商和超大规模数据中心造成了所谓的"内存墙"挑战。电气互连的局限性——包括带宽受限、高延迟和高功耗——阻碍了AI商业模式的增长和该领域的进步。Celestial AI首席执行官Dave Lazovsky向VentureBeat解释说："今后的关键问题是大语言模型(LLM)和推荐引擎工作负载的内存容量、带宽和数据移动(芯片到芯片互连)。"

为了应对这些挑战，Celestial AI开发了Photonic Fabric，这是一种为分解式、百亿亿浮点次数级计算和内存集群设计的光学互连。该公司专有的光学计算互连(OCI)技术实现了可扩展数据中心内存和加速计算的分解。根据Lazovsky的说法："我们的Photonic Fabric技术允许您将光子学直接集成到硅芯片中。一个关键优势是，我们的解决方案允许您从硅芯片上的任何点将数据传送到计算点。竞争对手的解决方案，如共封装光学(CPO)，无法做到这一点，因为它们只能将数据传送到芯片的边缘。"Photonic Fabric提供1.8 Tbps/mm²的封装带宽，纳秒级延迟——比CPO的带宽高25倍，延迟低10倍。该平台支持包括CXL和JEDEC (HBM)在内的行业标准协议，并与PCIe、UCIe和专有互连等接口兼容。

Celestial AI的目标是为GPT-4和PaLM等大语言模型(LLM)的企业计算，以及参数范围从1000亿到1万亿以上的深度学习推荐模型(DLRM)服务。Lazovsky向VentureBeat表示，服务器DRAM内存的低效使用导致"超大规模计算商和企业的浪费数以亿计(甚至数十亿)，"但Photonic Fabric可实现内存分解和池化，以降低内存支出并提高利用率。他解释说："通过以高带宽增加每个处理器的可寻址内存容量，Photonic Fabric允许每个处理器存储和处理更大的数据块，减少所需的处理器数量。提供快速的芯片到芯片链接使连接的处理器能够更快地处理模型，提高吞吐量同时降低成本。"

Broadcom正在合作开发基于Celestial AI设计的Photonic Fabric原型，原型预计在未来18个月内准备好交付给客户。这笔融资将用于加速Photonic Fabric技术平台的产品化和商业化，通过扩展Celestial AI的工程、销售和技术营销团队。