2026年10月3日星期六
AI 基础设施 · 新闻与分析
首页 › 资本市场 › 报道
资本市场 · 报道

NVIDIA Blackwell GPU驱动OpenAI的GPT-6 Astra Ultrafast模型,已在OpenAI API和符合条件的ChatGPT Work及Codex用户中投入生产。

NVIDIA与OpenAI在旗舰LLM部署的协调一致表明持续的GPU需求,并塑造规模化企业级AI推理经济学。
官方披露Slicast · 2026年10月1日 UTC 23:44 · 美国 · 来源: NVIDIA Blog
重要度 78

GPT-6 Astra Ultrafast运行在NVIDIA Blackwell GPU上,现已通过OpenAI API以及符合条件的ChatGPT Work和Codex用户可用。

Ultrafast利用OpenAI模型内置的推理优化来充分发挥NVIDIA Blackwell架构的性能,相比Astra标准模式,其token生成速度最高快8倍。对于开发者来说,加速生成缩短了代码编写Agent的编辑-测试-调试循环,减少了工具调用之间的延迟,使交互式应用更具响应性。

这些性能提升在跨工作流反复应用时最为关键——Agent编写代码、调用工具、检查结果并决定下一步。Ultrafast将Astra的全部功能带入这些时间关键的循环中,使NVIDIA基础设施能够在开发者需要时提供有用的模型输出。

"NVIDIA在工具和文档方面的深度投入使我们能够让模型在编程Blackwell和Rubin GPU方面表现卓越,"OpenAI推理负责人Philippe Tillet表示。"Astra可以将这些知识转化为高性能内核,使NVIDIA硬件在延迟、吞吐量和成本的全面范围内都具有竞争力。通过Astra Ultrafast,这意味着在Agent编写代码、使用工具和处理复杂任务时,模型响应更快。"

OpenAI在部署后持续优化推理性能,利用自身模型来优化NVIDIA GPU上的推理软件,充分利用平台的可编程性来测试和实施改进。这种迭代方法加快了模型响应速度,并随时间推移提高了已部署基础设施的生产力。

"我们与NVIDIA的合作帮助我们使AI更快、更有用,"OpenAI计算首席技术官Uday Ruddarraju表示。"我们利用内部模型优化了NVIDIA GPU上的推理,NVIDIA的可编程性帮助我们实现了Astra Ultrafast背后的加速。"

可编程的NVIDIA平台使开发者和研究人员能够在模型演进过程中跨训练、推理和强化学习重用基础设施,改进资源利用率,避免为单个工作负载过度配置。开发者现在可以通过API访问GPT-6 Astra Ultrafast;有关访问、定价和实现细节,请参阅Ultrafast指南。

阅读原文
NVIDIA Blackwell GPU驱动OpenAI的GPT-6 Astra… · Slicast