Baseten宣布与OpenAI合作，通过OpenAI B2B Marketplace提供开源模型推理服务。

Baseten已成为OpenAI B2B Marketplace中首批开源模型推理提供商之一。通过这一合作关系，OpenAI企业客户可以利用现有的OpenAI承诺来访问由Baseten提供的开源模型，既可以在Codex中使用，也可以通过Responses API使用。

这一集成面向运行多模型代理编码工作流的企业，其中工程团队基于成本、质量和性能权衡将任务路由到不同的模型。代理编码已成为全球范围内首个大规模多模型工作流，团队使用静态或自适应路由器将每项任务与最优模型进行匹配。

顶级工程团队现在在智能、成本、延迟和容量等方面都运作在帕累托前沿。没有单一模型能长期保持为每项任务的最佳工具。开源和闭源模型的发布周期以周为单位衡量，要求公司保持对最新选项的即时访问，并获得快速、可靠的推理服务。

Baseten的基础设施是为这种环境而构建的。该公司在超过20个云平台上运营超过90个集群，采用主动-主动部署方式，在提供商或地区出现故障时重新路由流量而不是停止工作。与超过200个计算提供商的关系使Baseten能够提前确保容量以满足需求。

代码生成工作负载对推理堆栈的每个组件都造成压力。多轮交互、跨越大型代码库的长提示和庞大的上下文窗口从工具层到引擎层都产生了性能瓶颈。Baseten的全栈优化在整个管道中应对这些约束。

该产品包括零日模型访问。当新的开源模型在编码基准测试中领先时，Baseten在其发布当天在Model APIs上推出它，使评估最新前沿模型就像更新一行代码一样简单。

对于代理编码，现已成为Baseten一部分的Blaxel为每个代理提供自己的沙箱来运行其编写的代码。企业治理功能包括基于美国的基础设施、所有提示的零数据保留、区域固定部署以及细粒度的身份验证和授权控制。

这一合作伙伴关系反映了AI基础设施市场更广泛的转变。随着企业从单模型实验转向生产多模型系统，控制路由层的公司获得价值。Baseten将自己定位为基础设施层，使组织能够在开源和闭源模型之间进行优化，而无需重建其工具。

对于OpenAI企业客户，该合作伙伴关系提供了一条路径，可以与GPT模型一起评估开源模型，无需单独采购或集成工作。企业可以加入Baseten的等待名单，通过OpenAI承诺在Codex中原生访问开源模型，或联系该公司进行其他用例的直接工程咨询。