深度求索开源了DeepInfer推理引擎，这是其快速且低成本的V4.1-Flash模型背后基于vLLM构建的推理框架，可降低计算成本和能耗。

DeepSeek 已依据 Apache License 2.0 开源其内部推理框架 DeepInfer。推理是指训练完成的 AI 模型处理请求并生成回应的过程。DeepInfer 是一套服务端软件,使 DeepSeek 的 V4.1-Flash 模型能够大规模快速生成答案。

该框架基于 vLLM 构建,并增加了优化的计算内核、跨多块芯片的分布式处理,以及更快的文本生成技术。DeepSeek 未来模型的代码也将以开源形式发布。此外,DeepSeek 还将发布 deepseek-recipe,用于复刻官方 DeepSeek API 的 token 处理流程,使自托管部署的行为与之保持一致。

DeepSeek 的模型使用成本已经非常低,DeepInfer 则针对进一步降低运行成本的剩余空间。该公司在 X 平台上表示,其目标是"帮助社区降低计算成本、减少能源消耗,并让 AI 更加普惠"。

此次发布也给 OpenAI、Anthropic 等西方服务商带来了价格压力。鉴于中美之间的 AI 竞争,此举或许也有政治上的考量。如果西方 AI 公司未能实现增长目标,那将对美国乃至更广泛的经济构成风险。