DSpark（DeepSeek）优化缓解AI芯片瓶颈和成本，声称获得重要效率提升。

中国人工智能初创公司DeepSeek发布了其旗舰V4模型的重大升级，旨在显著加快AI响应生成速度。该升级反映了中国开发者之间日益增长的竞争，以降低服务成本、增强用户体验，同时应对更广泛的克服美国AI限制的努力。

该公司采用了DSpark框架，这是一个推测性解码框架，可将每用户响应速度提高最多85%。这种效率提升可以大幅降低AI系统对更大、更强大芯片基础设施的依赖。

传统的逐token AI输出在生成冗长响应时往往会显著减速，导致GPU利用率低下和用户感知等待时间延长。根据周六发布的研究，DeepSeek将其确定为"AI服务中的主要瓶颈"。

DSpark框架通过采用轻量级草稿模型来提议候选响应，然后由更大的模型分批验证，从而加快AI响应生成速度——也称为推理，即为训练模型提供服务以响应用户查询的过程。

该框架融合了两项额外的改进。首先，半自回归生成方法使模型能够产生小块token，而不是严格的逐个生成。其次，基于置信度的调度系统根据计算需求动态调整验证强度，有助于平衡速度和输出质量。