2026年11月7日星期六
AI 基础设施 · 新闻与分析
首页 › 芯片与硬件 › 报道
芯片与硬件 · 报道

AWS已为SageMaker推理端点加入英伟达图形处理器分区功能。

图形处理器分区使多个推理任务可以共享同一块英伟达图形处理器,从而提高利用率并降低单次推理成本,也可能放缓推理场景对新增图形处理器的需求。
行业媒体Slicast · 2026年11月6日 UTC 18:23 · 美国 · 来源: Unite.AI
重要度 38
阅读原文
AWS已为SageMaker推理端点加入英伟达图形处理器分区功能。 · Slicast